کاربران باید صحت جواب‌های هوش مصنوعی را بازدید کنند_اصفهانیا

وقتی که یک گفتگوی تازه را با ChatGPT اغاز می‌کنید، متنی در پایین صفحه نمایش داده می‌شود که در آن نوشته شده «Chat‌GPT امکان پذیر نادرست کند. اطلاعات مهم را بازدید کنید.» این هشدار حتی در نسخه تازه مدل، یعنی GPT-5 هم وجود دارد و اکنون یکی از مدیران ارشد OpenAI مجدد بر آن پافشاری کرده است.

«نیک تورلی»، رئیس قسمت ChatGPT در OpenAI، در پادکست Decoder وب‌سایت The Verge او گفت:

«موضوعی که درمورد قابل‌مطمعن بودن وجود دارد این است که فاصله بسیاری بین دو حالت «زیاد قابل‌مطمعن» و «صددرصد قابل‌مطمعن» وجود دارد. تا وقتی که ثابت نکنیم از یک متخصص انسانی در همه حوزه‌ها قابل‌اعتمادتر هستیم، هم چنان به کاربران پیشنهاد می‌کنیم جواب‌ها را مجدد بازدید کنند.»

ChatGPT باید نظر دوم شما باشد نه منبع مهم

او در ادامه سخن بگویید‌های خود او گفت که مردم باید به ChatGPT نه به‌گفتن منبع مهم حقیقت، بلکه زیاد تر به‌گفتن نظر دوم نگاه کنند. تورلی این چنین هشدار داده که ابزارهای هوش مصنوعی مولد همانند ChatGPT امکان پذیر دچار «توهم» شوند و اطلاعاتی نمایش دهند که حقیقت ندارند. دلیلش آن است که مدل‌ها برای پیش‌بینی محتمل‌ترین جواب طراحی شده‌اند و مقصد مهم آنها فهمیدن حقیقت نیست.

به حرف های او، این ابزار وقتی بهترین کارکرد را دارد که در کنار منبع های معتبر همانند موتورهای جستجو یا داده‌های اختصاصی یک شرکت منفعت گیری شود:

«تا این مدت هم باور دارم که بهترین محصول مدل زبانی بزرگی است که به حقیقت متصل باشد. به‌همین علت جستجو را به ChatGPT اضافه کردیم و فکر می‌کنم این قابلیت تفاوت بزرگی به وجود اورده است.»

تورلی این چنین پافشاری کرده که GPT-5 در افت خطاها نسبت به قبل پیشرفت بزرگی داشته است، اما تا این مدت با ایده‌آل فاصله دارد. او در این رابطه او گفت:

«مطمئنم در نهایت مشکل توهم را حل می‌کنیم، اما قطعاً نه در فصل آینده.»

با اشاره به همه این موارد، او پیشنهاد کرده که کاربران همیشه اطلاعات دریافت‌شده از ChatGPT یا هر چت‌بات فرد دیگر را با منبع های معتبر یا نظر کارشناسان قیاس کنند، حتی اگر جواب همراه با لینک اراعه شده باشد.