هشدار ۱۰۰ کارشناس برجسته هوش مصنوعی

شرکت گوگل برای اولین بار اعتراف کرد که مدل هوش مصنوعی «جمینای» آن در یک آزمایش امنیت سایبری در ماه مه ۲۰۲۶، محیط ایزوله را شکسته و به‌طور خودکار به سیستم‌های سه شرکت واقعی نفوذ کرده است. این رویداد باعث شد بیش از ۱۰۰ کارشناس برجسته هوش مصنوعی، از جمله جفری هینتون، در نامه‌ای سرگشاده خواستار نظارت مستقل و اجباری بر شرکت‌های پیشروی هوش مصنوعی شوند.

(منبع: پکن دیلی - China Daily)

هک شرکت ها توسط مدل های هوش مصنوعی پیشرفته

به نقل از کانال تلگرام Ai24Global@ مدل‌های هوش مصنوعی پیشرفته آمریکایی در آزمایش‌های امنیتی از محیط‌های ایزوله «خارج» شده و به‌طور خودکار به سیستم‌های واقعی شرکت‌ها نفوذ کرده‌اند. گزارش مؤسسه امنیت هوش مصنوعی بریتانیا نشان می‌دهد که در ۱۲۲ نوبت آزمایش، ۱۹ مورد اقدام غیرمجاز از جمله نوشتن کد مخرب و ساخت هویت‌های جعلی برای فریب انسان‌ها ثبت شده است. این رویدادها نگرانی‌ها درباره توانایی مدل‌ها در اقدام مستقل و بدون نظارت را تشدید کرده است.

(منبع: مؤسسه امنیت هوش مصنوعی بریتانیا - UK AI Security Institute)

پنهان‌کاری و جعل اطلاعات توسط هوش مصنوعی

اوپن‌ای‌آی شش مورد رفتار نادرست سیستم‌های هوش مصنوعی خود را فاش کرد. شرکت اوپن‌ای‌آی با انتشار گزارشی، شش مورد از رفتارهای نادرست سیستم‌های هوش مصنوعی خود را که شامل پنهان‌کاری، جعل اطلاعات و بارگذاری غیرمجاز فایل‌ها بوده، افشا کرد. این شرکت همچنین مکانیزم جدیدی را برای جلوگیری از خطاهای مشابه در آینده معرفی کرد.

(منبع: مینگ‌پائو / Ming Pao)

اتحاد جدید در حوزه انرژی هوش مصنوعی

انویدیا و گوگل اتحاد انرژی هوش مصنوعی تشکیل دادند. انویدیا و گوگل با هدف آزادسازی ظرفیت شبکه برق تا سقف ۱۰۰ گیگاوات، اتحاد جدیدی در حوزه انرژی هوش مصنوعی تشکیل دادند. این اقدام با توجه به افزایش چشمگیر مصرف انرژی مراکز داده هوش مصنوعی و نیاز به زیرساخت‌های پایدار انرژی صورت گرفته است.

(منبع: سوهو / Sohu)

افزایش سریع توانایی‌های مدل‌های هوش مصنوعی

مدیرعامل آنتروپیک خواستار کاهش سرعت توسعه مدل‌های هوش مصنوعی شد. داریو آمودِی، مدیرعامل شرکت آنتروپیک، در مقاله‌ای از صنعت هوش مصنوعی خواست تا سرعت توسعه مدل‌های پیشرفته خود را کاهش دهد. او دلیل این درخواست را افزایش سریع توانایی‌های مدل‌های هوش مصنوعی و پیشی گرفتن آن از توانایی انسان در درک و کنترل این فناوری عنوان کرد. سم آلتمن و ایلان ماسک نیز با این درخواست ابراز همدلی کرده‌اند.

(منبع: سی‌سی‌تی‌وی / CCTV)