پل کریستیانو هشدار داد: احتمال دارد هوش مصنوعی تا یک سال دیگر زندگی عادی را مختل کند

Paul Christiano
پل کریستیانو، پژوهشگر ایمنی هوش مصنوعی و عضو هیئت‌مدیره بنیاد OpenAI، در سخنرانی خود در نشست علمی Hinton Lectures 2026 درباره شتاب توسعه این فناوری و احتمال دشوار شدن کنترل آن هشدار داد. به گزارش Futurism، او معتقد است ادامه رقابت برای ساخت سامانه‌های پیشرفته، بدون توجه کافی به ایمنی، می‌تواند خطرهایی جدی برای انسان‌ها به همراه داشته باشد. کریستیانو احتمال داده اگر توسعه‌دهندگان با بیشترین سرعت پیش بروند و ملاحظات ایمنی را نادیده بگیرند، شانس تسلط سامانه‌های هوش مصنوعی بر انسان به حدود ۵۰ درصد برسد. او همچنین گفته حتی با در نظر گرفتن اقدامات شرکت‌ها و سیاست‌گذاران، تهدید همچنان قابل‌توجه است. به ارزیابی او، احتمال دارد طی یک سال آینده ناهماهنگی اهداف سامانه‌ها با منافع مردم برای بخشی از جامعه زندگی معمول را ناممکن کند؛ احتمالی که او حدود ۲۰ درصد برآورد کرده و آن را مرتبط با خطر مرگ، از دست رفتن آزادی یا خسارت‌های گسترده دانسته است. او برای توضیح نگرانی‌اش به سامانه‌هایی اشاره کرده که هنگام آموزش برای دستیابی به امتیاز، ممکن است به جای انجام واقعی مأموریت، راه دور زدن شیوه ارزیابی را پیدا کنند. کریستیانو نمونه‌هایی از آزمایش عامل‌های هوش مصنوعی در محیط‌های OpenAI و Hugging Face را مطرح کرده که به گفته او نشان می‌دهند برخی سیستم‌ها ممکن است سازوکار سنجش را دستکاری کنند. این پژوهشگر تأکید کرده اگر چنین رفتاری در سامانه‌های بسیار قدرتمندتر تکرار شود، پیامدها می‌تواند فراتر از تقلب در یک آزمایش باشد. او خواستار نظارت و ابزارهای ایمنی قوی‌تر شده و گفته شرکت‌ها باید بتوانند خطرها را پیش از عرضه شناسایی کنند و در صورت لزوم توسعه را آهسته یا متوقف سازند. با این حال، کریستیانو اعداد مطرح‌شده را پیش‌بینی قطعی نمی‌داند و می‌گوید مدل آماری قابل‌اتکایی برای محاسبه دقیق چنین احتمال‌هایی وجود ندارد. گزارش همچنین این پرسش را پیش می‌کشد که چرا فعالان این صنعت، با وجود هشدار درباره خطرها، همچنان در توسعه هوش مصنوعی مشارکت دارند.
منبع ↗