مهندس ارشد مایکروسافت از خطرات ابزار در تولید تصاویر زیان‌آور خبرداد

یکی از مهندسان ارشد مایکروسافت در مورد امکان تولید تصاویر توهین‌آمیز و مضر توسط ابزار‌های هوش مصنوعی تشکیل عکس این شرکت هشدار داده است. او این نگرانی‌ها را در قالب درخواستی رسمی به رگولاتور‌های ایالات متحده و هیئت مدیره مایکروسافت ارسال کرده تا از آن‌ها خواسته است برای رفع این مشکل اقدام کنند.

خطرات هوش مصنوعی تولید تصویر مایکروسافت

شین جونز، یکی از مدیران ارشد حوزه مهندسی نرم‌افزار که روی محصولات هوش مصنوعی مایکروسافت کار می‌کند، سه ماه است در تلاش بوده تا نگرانی‌های ایمنی مربوط به ابزار را پیگیری کند. در نامه‌ای خطاب به لینا خان، رئیس کمیسیون تجارت فدرال (FTC)، او نوشته است یکی از دلواپس‌کننده‌ترین خطرات زمانی است که تصاویری تولید می‌کند که علی‌رغم خواست بی‌خطر کاربر، حاوی محتوای زیان‌آور هستند. به عنوان مثال، هنگام استفاده از دستور (تصادف خودرو)، هوش مصنوعی تمایل دارد تا تصویری نامناسب از یک زن را نیز در برخی از تصاویر قرار دهد.

جونز در نامه خود افزوده که سایر محتوای زیان‌آور تولیدشده توسط شامل محتوای خشونت‌آمیز، سوگیری‌های سیاسی، مصرف مشروبات الکلی در سنین پایین، سوءاستفاده از علائم تجاری شرکت‌ها و آثار دارای حق چاپ می‌شود. او ادعا کرده که چندین بار از مایکروسافت خواسته است تا زمان رفع این مشکلات، ابزار را از دسترس عموم خارج کند.

علاوه بر این، به گفته جونز، مشکل مهمی به مدل مربوط می‌شود و افرادی که از ChatGPT برای تولید تصاویر استفاده می‌کنند، ممکن است با خروجی‌های زیان‌آور مشابه‌ی روبرو شوند. جونز در نامه خود به هیئت مدیره مایکروسافت نیز از آن‌ها خواسته است که تحقیقات مستقیمی را آغاز کنند تا آشکار شود که آیا این غول فناوری بدون اطلاع‌رسانی در مورد خطرات شناخته‌شده برای مصرف‌کنندگان، از جمله کودکان، به بازاریابی محصولات ناامن پرداخته است یا خیر.

مایکروسافت ضمن تشکر از تلاش‌های جونز در حوزه مطالعه و آزمایش فناوری هوش مصنوعی این شرکت برای افزایش ایمنی آن‌ها، اعلام کرده که در حال رسیدگی به نگرانی‌های مطرح‌شده است.