تکلیف ساماندهی هوش مصنوعی: چرا نباید نگران تکینگی باشیم اما باید اقدام کنیم
نویسنده استدلال میکند که در حالی که تکینگی هوش مصنوعی هنوز فرا نرسیده است، پیوند بین فناوری بزرگ و سیاست نیازمند اقدام جمعی برای حکمرانی مؤثر بر هوش مصنوعی است.
ساماندهی هوش مصنوعی فراتر از هایپ تکینگی
مقاله به بررسی ادعاهای اغراقآمیز پیرامون هوش مصنوعی (AI) و مفهوم تکینگی (Singularity) میپردازد که اغلب توسط شرکتهای بزرگ فناوری مطرح میشود. نویسنده، ساموئل ووللی، با اشاره به پدیدههایی مانند “Moltbook” (یک سایت شبکه اجتماعی برای عوامل هوش مصنوعی)، تاکید میکند که این پلتفرمها یا تواناییهای ادعایی، چیز جدیدی نیستند و هوش عمومی مصنوعی (AGI) نیز هنوز دور از دسترس است. محدودیتهای اساسی در ریاضیات، دسترسی به دادهها و هزینههای تجاری مانع از رسیدن به AGI یا تکینگی هستند. با این حال، نگرانی اساسیتر در مورد وضعیت فعلی نیست، بلکه در مورد تلفیق قدرت فناوری بزرگ و سیاست است. شرکتهای بزرگ فناوری دیگر نیروی مقابلهکننده با قدرت دولتی نیستند، بلکه در رقابت برای “برنده شدن” در مسابقه هوش مصنوعی با دولتها متحد شدهاند، که این امر میتواند منجر به نظارت دولتی و اعمال نفوذ سیاسی توسط مدیران اجرایی فناوری شود.
- ادعاهای مربوط به رسیدن به AGI یا تکینگی توسط رهبرانی مانند سم آلتمن و ایلان ماسک فاقد پشتوانه علمی هستند.
- Moltbook و چتباتهای آن، بیش از آنکه نمایانگر هوش پیشرفته باشند، بازتابی از فرهنگ و سوگیریهای انسانی هستند که دادههای آموزشی آنها را شکل دادهاند.
- قدرت شرکتهای بزرگ فناوری در حال حاضر با تمایلات سیاسی دولتها همسو شده است، مانند پرداختهای ICE به Palantir برای نرمافزارهای نظارتی.
- تاریخ نشان داده است که فشار عمومی میتواند سازمانهای قدرتمند را وادار به عقبنشینی کند، همانطور که در اعتراضات مدنی اخیر مشاهده شد.
“AI is not a runaway force in the hands of those at the top, but, as two Princeton scientists put it, a ‘normal technology’. Its effects upon the world will be decided by people.”
“ما باید تقاضا کنیم که هوش مصنوعی به طور مؤثر حکمرانی شود و باید این کار را به زودی انجام دهیم. هوش مصنوعی در حال ایجاد تغییر است و سیاستمداران در حال ایجاد آشوب هستند، اما قدرت تصمیمگیری برای آینده همچنان در دستان انسانهاست.”
با وجود اینکه مدلهای زبان بزرگ (LLMs) و هوش مصنوعی مولد در حال تغییر نحوه ارتباط ما هستند، این تحول نباید منجر به تسلیم شدن در برابر نفوذ متمرکز شود. حکمرانی هوش مصنوعی باید متمرکز و آگاهانه باشد و نباید مانعی در برابر پیشرفت معقول فنی یا حقوق دموکراتیک باشد. قدرت نهایی برای شکل دادن به تأثیر هوش مصنوعی بر جهان، در اختیار مردم است و میتوانند با نظارت و قانونگذاری، استفاده از این فناوری را کنترل کنند.
