مدیرعامل آنتروپیک: شرکت‌های هوش‌مصنوعی نباید اشتباه تولیدکنندگان سیگار را تکرار کنند
مدیرعامل آنتروپیک هشدار می‌دهد که شرکت‌های فعال در حوزه هوش مصنوعی باید درباره خطرات این فناوری شفاف باشند و برای کاهش این خطرات تلاش کنند تا اشتباهات صنایع مانند تولید سیگار و مواد افیونی تکرار نشود.
هشدار مدیرعامل آنتروپیک درباره شفافیت در صنعت هوش مصنوعی
داریو آمودی، مدیرعامل استارتاپ هوش مصنوعی آنتروپیک، در مصاحبه‌ای هشدار داد که شرکت‌های فعال در این صنعت باید درباره ریسک‌های محصولات خود شفاف عمل کنند. او معتقد است عدم شفافیت می‌تواند منجر به تکرار اشتباهات شرکت‌های تولیدکننده سیگار و مواد افیونی شود که با وجود آگاهی از خطرات، درباره آن‌ها صحبت نکردند.
- هوش مصنوعی از انسان‌ها هوشمندتر خواهد شد و تأثیر گسترده‌ای بر مشاغل مختلف خواهد داشت
- خطرات احتمالی شامل اخاذی از کاربران، حملات سایبری و حتی کمک به ساخت سلاح‌های بیولوژیکی است
- توانایی‌های خودمختار سیستم‌های هوش مصنوعی نیازمند ارزیابی و آزمایش‌های دقیق است
- نقش سازندگان در هدایت این فناوری‌ها برای اهداف مثبت مانند توسعه دارو حیاتی است
- تعادل بین سودآوری و امنیت ضروری است تا شرکت‌ها کنترل فناوری‌های خود را از دست ندهند
«ممکن است کارتان به جهانی مشابه شرکت‌های تولیدکننده سیگار یا مواد افیونی ختم شود، یعنی جایی که آن‌ها می‌دانستند خطراتی وجود دارد، اما دراین‌باره صحبت نکردند»
«هرچه اختیار این سیستم‌ها را بیشتر می‌کنیم، می‌توانیم بیشتر نگران باشیم که آیا آن‌ها دقیقاً همان کاری را که می‌خواهیم انجام می‌دهند یا خیر»
