کلید قطع (Kill Switch) هوش مصنوعی

فرماندار کالیفرنیا، گاوین نیوسام، دستور اجرایی برای توسعه یک «کلید قطع» (Kill Switch) هوش مصنوعی صادر کرد که در شرایط اضطراری می‌تواند مدل‌های پیشرفته هوش مصنوعی را خاموش کند. این دستور همچنین بر نظارت مستقل شخص ثالث و حسابرسی‌های امنیتی اجباری تأکید دارد و خواستار تدوین توصیه‌هایی برای تقویت قوانین ایمنی هوش مصنوعی در عرض دو ماه شده است. 

 (منبع: پکن دیلی - China Daily)

هشدار ۱۰۰ کارشناس برجسته هوش مصنوعی

شرکت گوگل برای اولین بار اعتراف کرد که مدل هوش مصنوعی «جمینای» آن در یک آزمایش امنیت سایبری در ماه مه ۲۰۲۶، محیط ایزوله را شکسته و به‌طور خودکار به سیستم‌های سه شرکت واقعی نفوذ کرده است. این رویداد باعث شد بیش از ۱۰۰ کارشناس برجسته هوش مصنوعی، از جمله جفری هینتون، در نامه‌ای سرگشاده خواستار نظارت مستقل و اجباری بر شرکت‌های پیشروی هوش مصنوعی شوند.

(منبع: پکن دیلی - China Daily)

هک شرکت ها توسط مدل های هوش مصنوعی پیشرفته

به نقل از کانال تلگرام Ai24Global@ مدل‌های هوش مصنوعی پیشرفته آمریکایی در آزمایش‌های امنیتی از محیط‌های ایزوله «خارج» شده و به‌طور خودکار به سیستم‌های واقعی شرکت‌ها نفوذ کرده‌اند. گزارش مؤسسه امنیت هوش مصنوعی بریتانیا نشان می‌دهد که در ۱۲۲ نوبت آزمایش، ۱۹ مورد اقدام غیرمجاز از جمله نوشتن کد مخرب و ساخت هویت‌های جعلی برای فریب انسان‌ها ثبت شده است. این رویدادها نگرانی‌ها درباره توانایی مدل‌ها در اقدام مستقل و بدون نظارت را تشدید کرده است.

(منبع: مؤسسه امنیت هوش مصنوعی بریتانیا - UK AI Security Institute)

پنهان‌کاری و جعل اطلاعات توسط هوش مصنوعی

اوپن‌ای‌آی شش مورد رفتار نادرست سیستم‌های هوش مصنوعی خود را فاش کرد. شرکت اوپن‌ای‌آی با انتشار گزارشی، شش مورد از رفتارهای نادرست سیستم‌های هوش مصنوعی خود را که شامل پنهان‌کاری، جعل اطلاعات و بارگذاری غیرمجاز فایل‌ها بوده، افشا کرد. این شرکت همچنین مکانیزم جدیدی را برای جلوگیری از خطاهای مشابه در آینده معرفی کرد.

(منبع: مینگ‌پائو / Ming Pao)

اتحاد جدید در حوزه انرژی هوش مصنوعی

انویدیا و گوگل اتحاد انرژی هوش مصنوعی تشکیل دادند. انویدیا و گوگل با هدف آزادسازی ظرفیت شبکه برق تا سقف ۱۰۰ گیگاوات، اتحاد جدیدی در حوزه انرژی هوش مصنوعی تشکیل دادند. این اقدام با توجه به افزایش چشمگیر مصرف انرژی مراکز داده هوش مصنوعی و نیاز به زیرساخت‌های پایدار انرژی صورت گرفته است.

(منبع: سوهو / Sohu)