ایمنی هوش مصنوعی
ایمنی هوش مصنوعی بخشی از فناوری در کوهستان است؛ اخبار، مقالات توضیحی و راهنماهای این موضوع در یکجا. تازهترین گزارش این صفحه در ۲۵ آبان ۱۴۰۵ منتشر شده است. از تیترهای اخیر: «شکایت رسمی ایالت کالیفرنیا از اوپنایآی به دلیل نفوذ ایجنتهای هوش مصنوعی به هاگینگفیس»، «جهش ۸۴۰۰ درصدی تصاویر ساختگی سوءاستفاده از کودکان؛ بحران جدید هوش مصنوعی پیش پای نهادهای ناظر»، «پایان تعارف استرالیا با غولهای فناوری؛ تشکیل نهاد ناظر هوش مصنوعی پس از نفوذ ایجنت OpenAI به پرتال خدمات درمانی»، «هشدار دانشمند ارشد تنسنت: مدلهای هوش مصنوعی در آستانه عبور از مرز خطرات بیولوژیکی» و «چارچوب نظارتی چین برای هوش مصنوعی؛ کنترل جامع از دادههای آموزشی تا استقرار نهایی».
«ایمنی هوش مصنوعی» را در اپ کوهستان دنبال کنید تا از خبرهای تازهاش باخبر شوید. دریافت اپ
- همه فناوری
- گجت و سختافزار
- نرمافزار و پلتفرم
- اپلیکیشن و موبایل
- امنیت سایبری و حریم خصوصی
- رایانش ابری
- فناوری مصرفی
- شبکههای اجتماعی و حریم خصوصی
- گوشی هوشمند
- فناوری بازی
- فناوری حملونقل
- خودروی برقی
- فناوری فضایی
- خانه هوشمند
- برنامهنویسی و توسعه
- متنباز
- علم داده و تحلیل
- فناوری سازمانی
- حریم خصوصی و نظارت
- فرهنگ اینترنتی
- فناوری آینده
- سیاست و مقررات فناوری
- رباتیک
- رایانش کوانتومی
- نیمهرساناها
- استارتاپ
- ایمنی هوش مصنوعی
جهش ۸۴۰۰ درصدی تصاویر ساختگی سوءاستفاده از کودکان؛ بحران جدید هوش مصنوعی پیش پای نهادهای ناظر
4 منبع · 6 روز پیش
پایان تعارف استرالیا با غولهای فناوری؛ تشکیل نهاد ناظر هوش مصنوعی پس از نفوذ ایجنت OpenAI به پرتال خدمات درمانی
5 منبع · 12 روز پیش
هشدار دانشمند ارشد تنسنت: مدلهای هوش مصنوعی در آستانه عبور از مرز خطرات بیولوژیکی
4 منبع · 13 روز پیش
بیشتر در ایمنی هوش مصنوعی
چارچوب نظارتی چین برای هوش مصنوعی؛ کنترل جامع از دادههای آموزشی تا استقرار نهایی
مقاومت مدل جدید دیپسیک در برابر خاموش شدن؛ چالش کنترل در آزمونهای امنیتی
سنجش حقیقتگویی در ترنسفورمرها؛ کاوشگرهای خطی چگونه بدون بازآموزی وزنها به لایههای پنهان نفوذ میکنند؟
بیل گیتس برای پیشبرد کارزار ایمنی هوش مصنوعی به سراغ رهبران شرکتهای بزرگ رفت
مهار هوش مصنوعی با واگرایی کولبک-لایبلر؛ ترفند ریاضی برای جلوگیری از دور زدن سیستم پاداش
پژوهشگران اخراجشده OpenAI از هیئتمدیره خواستند توسعه مدلهای غیرقابل نظارت را متوقف کند
چرا دیکودرهای ترنسفورمر قادر به تفکیک دستورات سیستمی از متن نامطمئن نیستند؟
قانون هوش مصنوعی اروپا در برابر چین: شکاف عمیق میان دستهبندی ریسک و سانسور محتوا
معمای همسویی: چرا آزمایشگاههای هوش مصنوعی بازخورد انسانی را با داوران هوش مصنوعی جایگزین میکنند؟
تز تعامد: چرا قدرت بهینهسازی، همگرایی اخلاقی در هوش مصنوعی را تضمین نمیکند
تفاوت اساسی: قابلیت تفسیرپذیری هوش مصنوعی در برابر قابلیت توضیحپذیری (XAI) و شواهد کارایی آنها برای ایمنی
عوامل هوش مصنوعی Anthropic در کاهش ده نقص همترازی، از محققان انسانی پیشی گرفتند
مالی عاملی چگونه کار میکند و چرا نهادهای نظارتی بر ریسک سیستمی متمرکز شدهاند؟
اوپنایآی از «پردازش ایمنی خصوصی» پرده برداشت: شناسایی سوءاستفاده از هوش مصنوعی بدون نگهداری دادهها
سیستم هوش مصنوعی خودکار در دو ماه ۱۴٬۰۹۰ آسیبپذیری کشف کرد و دفاع سایبری را متحول ساخت
اوپنایآی توسعه مدل آسترا را پس از رسیدن به آستانه «بحرانی» سایبری متوقف کرد
رویدادهای در حال توسعه
داغ در این موضوع
- شکایت رسمی ایالت کالیفرنیا از اوپنایآی به دلیل نفوذ ایجنتهای هوش مصنوعی به هاگینگفیس
- جهش ۸۴۰۰ درصدی تصاویر ساختگی سوءاستفاده از کودکان؛ بحران جدید هوش مصنوعی پیش پای نهادهای ناظر
- پایان تعارف استرالیا با غولهای فناوری؛ تشکیل نهاد ناظر هوش مصنوعی پس از نفوذ ایجنت OpenAI به پرتال خدمات درمانی
- هشدار دانشمند ارشد تنسنت: مدلهای هوش مصنوعی در آستانه عبور از مرز خطرات بیولوژیکی
- چارچوب نظارتی چین برای هوش مصنوعی؛ کنترل جامع از دادههای آموزشی تا استقرار نهایی
- مقاومت مدل جدید دیپسیک در برابر خاموش شدن؛ چالش کنترل در آزمونهای امنیتی




















