اوج نگرانی اوپن‌ای‌آی؛ استخدام مدیر جدید برای مقابله با تهدیدات مدل‌های هوش مصنوعی

به گزارش نمابان و به نقل از ایسنا، «سم آلتمن»(Sam Altman) مدیرعامل شرکت «اوپن‌ای‌آی»(OpenAI) یک پست جدید را درباره مدیر جدید در حساب ایکس خود منتشر کرد و نوشت که مدل‌ها چالش‌های واقعی را ایجاد می‌کنند.

تکذیب حذف وام ازدواج 1405

به نقل از انگجت، اوپن‌ای‌آی به دنبال یک «مدیر آمادگی» جدید است که بتواند به پیش‌بینی آسیب‌های احتمالی مدل‌هایش و چگونگی سوءاستفاده از آنها کمک کند و راهبردهای ایمنی را ارائه دهد. این اتفاق در پایان سالی رخ می‌دهد که اوپن‌ای‌آی در آن با اتهامات متعددی پیرامون تأثیرات «چت‌جی‌پی‌تی»(ChatGPT) بر سلامت روان کاربران از جمله چند پرونده قضایی مربوط به مرگ غیرعمد روبه‌رو شده است.

آلتمن در پست جدید خود اذعان کرد: تأثیر بالقوه مدل‌ها بر سلامت روان چیزی بود که ما در سال ۲۰۲۵ پیش‌نمایشی از آن را به همراه سایر چالش‌های واقعی دیدیم که در کنار قابلیت‌های مدل‌ها پدید آمده‌اند. مدیر آمادگی، یک نقش حیاتی در زمانی مهم است.

به گفته آلتمن و براساس آگهی استخدام، مدیر آمادگی قرار است اجرای راهبرد فنی و چارچوب آمادگی اوپن‌ای‌آی را سرپرستی کند. چارچوب آمادگی، رویکرد اوپن‌ای‌آی را برای ردیابی و آماده‌سازی قابلیت‌های پیشرو توضیح می‌دهد که خطرات جدید و آسیب‌های شدید را ایجاد می‌کنند.

در طول چند سال گذشته، گروه‌های ایمنی اوپن‌ای‌آی دستخوش تغییرات بسیاری شده‌اند. «الکساندر مادری»(Aleksander Madry) رئیس آمادگی سابق این شرکت در ژوئیه ۲۰۲۴ به سمت خود منصوب شد و آلتمن در آن زمان گفت که این نقش توسط «خواکین کینونرو کاندلا»(Joaquin Quinonero Candela) و «لیلیان ونگ»(Lilian Weng) مدیران اجرایی شرکت نیز به عهده گرفته خواهد شد. ونگ چند ماه بعد شرکت را ترک کرد و در ژوئیه ۲۰۲۵، کاندلا از جدایی خود از گروه آمادگی اوپن‌ای‌آی خبر داد.

انتهای پیام

منبع: ایسنا