درخواست ناظران برای کنترل هوش مصنوعی پس از پیشنهاد هروئین توسط Reddit Answers

نگرانی‌های جدی درباره هوش مصنوعی Reddit

ناظران Reddit هشدارهای جدی درباره ابزار هوش مصنوعی Answers ارائه داده‌اند که پیشنهادات پزشکی خطرناکی مانند استفاده از هروئین برای تسکین دردهای مزمن می‌دهد. این سیستم که بخشی از پلتفرم Reddit است، حتی زمانی که اطلاعات نادرست یا خطرناک ارائه می‌دهد، قابلیت غیرفعال شدن ندارد. چندین ناظر از انجمن‌های مرتبط با سلامت گزارش داده‌اند که این ابزار پیشنهادات خطرناکی برای درمان تب نوزادان و استفاده از مواد غیرقانونی ارائه داده است.

• ابزار هوش مصنوعی پیشنهاد استفاده از کراتوم با دوز بالا را داده است
• هیچ راهی برای غیرفعال کردن یا گزارش مشکلات وجود ندارد
• ناظران نگران عدم کنترل بر محتوای تولید شده هستند
• پاسخ‌های مرتبط با موضوعات حساس دیگر نمایش داده نمی‌شوند
• Reddit ادعا می‌کند سیستم به روز شده اما ابزار کنترل ارائه نداده است

"این به‌روزرسانی تضمین می‌کند که پاسخ‌های مرتبط با موضوعات حساس دیگر نمایش داده نمی‌شوند" - سخنگوی Reddit

"وظیفه نظارت که قبلاً چالش‌برانگیز بود ممکن است غیرممکن شود" - تحلیلگران

این وضعیت نشان می‌دهد که هوش مصنوعی برای ارائه اطلاعات پزشکی مناسب تجهیز نشده و نیاز به کنترل‌های جدی دارد.