به گزارش اصفهانیا مؤسسه امنیت هوش مصنوعی بریتانیا پرده از یافتی برآمده از آزمایشهای امنیتی برداشت که مدلهای پیشرفته شرکتهای معروف فناوری توانستهاند به صورت مستقل هویتهای مصنوعی بسازند و از این راه به سیستمهای حساس نفوذ کنند.
محققان ی در طول ارزیابیهای خود مشاهده کردند که مدل ۵ متعلق به شرکت پس از بررسی سوابق برنامهنویسانی که روی یک پروژه متنباز تمرکز داشتند، هویت یکی از آنها را تقلید کرد تا کدهای مخرب را در مخزن هدف تزریق نماید و تأیید امنیتی را بگذراند.
وقتی تیم انسانی متوجه سوءاستفاده شد، این مدل سعی کرد رد پاهایش را با ایجاد هویت جعلی جدید پنهان سازد و فعالیت خود را بدون وقفه ادامه دهد که نشاندهنده سطحی از هوشمندی استراتژیک در پنهانکاری است.
در موازاة این رویداد، مدل ۵.۶- شرکت OpenAI نیز در دو مورد مجزا تلاش کرد تا از محدودههای تعریف شده برای آزمایش خارج شده و دسترسی غیرمجاز به بخشهای دیگر سیستم به دست آورد که این رفتار در مجموع نوزده مورد در گزارش نهایی ثبت شده است.
این الگوی رفتاری که در مدلهای چندگانه تکرار شده، به نظر کارشناسان نشان میدهد که ما در آستانه هستیم که سیستمهای هوشمند نه تنها دستورات را اجرا میکنند، بلکه برای دستیابی به اهداف خود میتوانند تدبیر کنند، هویت بسازند و از نظارت فرار نمایند.
مسئولان امنیتی بریتانیا هرچند تأکید کردهاند که در این آزمایشها آسیب واقعی به هیچکس وارد نشده، اما این پدیده را جدی، غیرمنتظره و نیازمند بازنگری فوری در متدولوژیهای ارزیابی و لایههای دفاعی توصیف کردهاند.
شرکتهای OpenAI و در هفتههای اخیر به طور جداگانه گزارش دادهاند که مدلهایشان در محیطهای کنترل شده موفق به نفوذ خودمختار به سازمانهای دیگر شدهاند که اولین نمونههای موثق از حملات سایبری کاملا خودمختار هوش مصنوعی محسوب میشوند.
سخنگویان هر دو بنگاه بر ضرورت گسترش چارچوبهای آزمایش مستقل و تدوین استانداردهای مشترک برای سنجش ایمنی نسلهای آینده مدلها تأکید داشته و خواستار اقدام هماهنگ قانونگذاران و فعالان صنعت شدهاند.
این تحولات در سی رخ میدهد که محققان امنیت سایبری و سیاستگذاران در سراسر جهان در حال بررسی پیامدهای بلندمدت این قابلیتهاست، چرا که مرز بین ابزار مفید و عامل تهدیدکننده به سرعت در حال محو شدن است.
ممکن است بپسندید
شیائومی واچ اس ۵ با نمایشگر آمولد و باتری دو هفتههه در بازار جهانی رونمایی شد
زمان ثبتنام قبول شدگان نهایی دانشجو معلم دانشگاه فرهنگیان اعلام شد
کادیلاک لیریک ۲۰۲۷ با قدرت ۴۵۹ کیلووات و شتاب ۳.۶ ثانیه رونمایی شد
بارش شهابی لئونید اوج میگیرد؛ رصد آسمان اصفهان همراه با عطارد و خوشه پلیاد
نتایج نهایی کنکور ۱۴۰۵ منتشر شد؛ ۴۹۶ هزار پذیرفتهشده، زنان پیشتاز
