هشدار درباره ی ایمنی هوش مصنوعی هیچ شرکتی کنترل ابرهوش را ضمانت نمی کند
به گزارش دانلود فایل، طبق تحقیقی جدید بیشتر شرکتهای هوش مصنوعی نمی توانند ریسک های فاجعه بار این فناوری را مدیریت کنند.
به گزارش دانلود فایل به نقل از ایندیپندنت، پژوهش مؤسسه Future of Life نشان میدهد که ۸ شرکت برتر هوش مصنوعی فاقد اقدامات ایمنی اثبات شده، نظارت مستقل و برنامه های بلند مدت برای مدیریت ریسک سیستم های قدرتمند هستند. در شاخص ایمنی هوش مصنوعی (AI Safety Index)، شرکتهای آمریکایی بهترین امتیاز را گرفتند و محصول Anthropic بیشتر از OpenAI و DeepMind گوگل قرار گرفت. در عین حال، هیچ شرکتی در ارزیابی «ریسک وجودی» نمره بیشتر از D نگرفت و Alibaba Cloud، DeepSeek، Meta، xAI و Z.ai نمره F کسب کردند. پژوهش تاکید کرده که ایمنی وجودی همچنان بزرگ ترین ضعف ساختاری این حوزه است و فاصله بین شتاب در توسعه AGI و نبود برنامه های معتبر کنترل آن روزبه روز نگران کننده تر می شود. استورات راسل، پروفسور علوم رایانشی دانشگاه UC Berkeley، می گوید: «مدیران ارشد می دانند چطور ابرهوش بسازند، اما هیچ کس نمی تواند نشان دهد چطور خطر از دست رفتن کنترل آنها را مهار می کند. آنها نمی توانند ریسک سالانه از دست دادن کنترل را به اندازه ای پایین بیاورند که مشابه الزامات ایمنی راکتورهای هسته ای باشد.»
حرف آخر اینکه آنها نمی توانند ریسک سالانه از دست دادن کنترل را به اندازه ای پایین بیاورند که مشابه الزامات ایمنی راکتورهای هسته ای باشد.
منبع: itfile.ir
این مطلب را می پسندید؟
(1)
(0)
تازه ترین مطالب مرتبط
نظرات بینندگان در مورد این مطلب