جنجال پاسخ‌های بی ربط گروک به سوالات کاربران
پاسخ های بی ربط چت بات هوش مصنوعی گروک به کاربران جنجال برانگیز شده است.
به گزارش خبرگزاری مهر به نقل از تک کرانچ، گروک چت بات هوش مصنوعی ایلان ماسک، به دلیل یک باگ به پست های متعدد در شبکه اجتماعی ایکس با اطلاعاتی درباره «نسل کشی سفید پوست ها»در آفریقای جنوبی حتی هنگامیکه کاربر سوالی در این موضوع نپرسیده بود، پاسخ می داد.
این پاسخ های عجیب از یک حساب کاربری ایکس برای گروک سرچشمه می گرفت که هرگاه یک کاربر grok@را تگ می کند، با پست های تولید شده با هوش مصنوعی به وی پاسخ می دهد.
هنگامیکه از گروک درباره موضوعات غیر مرتبط پرسیده شد، این چت بات مکررا درباره نسل کشی سفید پوست ها و همچنین یک سرود ضد آپارتاید پاسخ می داد.
در یکی از نمونه رفتارهای عجیب گروک، هنگامیکه کاربر درباره دستمزد سالانه یک بازیکن حرفه ای بیس بال سوال پرسید، این چت بات پاسخ داد ادعای نسل کشی سفیدپوست ها در آفریقای جنوبی مورد بحث و جدل است.
پاسخ های عجیب و بی ربط گروک نشان می دهند که چت بات های هوش مصنوعی هنوز یک فناوری نوپا هستند و احتمالا منبع معتبری برای اطلاعات به حساب نمی آیند.
تهیه کنندگان مدل های هوش مصنوعی در ماه های اخیر برای بازبینی پاسخ هایی که چت بات هایشان می دهند، با چالش روبرو شده اند.
اوپن ای آی اخیرا مجبور شد یک آپدیت چت جی پی تی را که باعث می‌شد چت ربات هوش مصنوعی بیش از حد متعصب شود، لغو کند.
از سوی دیگر، چت بات جمینای گوگل نیز با پاسخگویی یا ارائه اطلاعات نادرست در مورد موضوعات سیاسی، مشکلاتی برای شرکت به وجود آورده است.