Anthropic: کنترل هوش مصنوعی برای ایمنی، استراتژی بحث‌برانگیز

شرکت Anthropic، یکی از توسعه‌دهندگان پیشرو هوش مصنوعی، پنج سال است که درباره خطرات هوش مصنوعی پیشرفته هشدار می‌دهد، اما هم‌زمان خود به یکی از قدرتمندترین نیروهای پیش‌برنده این فناوری تبدیل شده است. این شرکت که اخیراً نزدیک به ۱ تریلیون دلار ارزش‌گذاری شده، معتقد است برای تضمین ایمنی هوش مصنوعی، باید در خط مقدم توسعه آن باقی بماند. Anthropic بر اساس دو باور اصلی عمل می‌کند: اول اینکه هوش مصنوعی تحول‌آفرین‌ترین فناوری تاریخ بشر و ظهور آن اجتناب‌ناپذیر است و تنها پرسش این است که آیا به فاجعه منجر می‌شود یا رفاه فوق‌العاده. دوم اینکه، به گفته چندین کارمند سابق، Anthropic باور دارد جهان با ماندن این شرکت در مرزهای رقابت هوش مصنوعی، وضعیت بهتری خواهد داشت.

این شرکت جمع‌آوری قدرت — چه به شکل سرمایه، توان محاسباتی، استعداد تحقیقاتی یا نفوذ سیاسی — را نه یک هدف، بلکه بهایی برای انجام مأموریت خود می‌داند: «اطمینان از گذار ایمن جهان از طریق هوش مصنوعی تحول‌آفرین.»

هلن تونر، مدیر اجرایی مرکز امنیت و فناوری‌های نوظهور Georgetown و عضو سابق هیئت مدیره OpenAI، دیدگاه Anthropic را به جنگلی پر از گنجینه‌های جادویی و هیولاهای خطرناک تشبیه می‌کند. به گفته او، Anthropic می‌خواهد عمیق‌تر از هر کس دیگری وارد این جنگل شود و در عین حال به شدت روی رام کردن هیولاها سرمایه‌گذاری کند؛ یعنی بهره‌مندی از مزایای هوش مصنوعی و مهار خطرات فاجعه‌بار آن. داریو آمودی، مدیرعامل Anthropic، نیز در صفحه مشاغل شرکت بیان کرده است: «باید راهی برای رقابتی بودن و حتی رهبری صنعت پیدا کنید و در عین حال کارها را ایمن انجام دهید.» Anthropic در سال ۲۰۲۱ توسط گروهی از کارمندان سابق OpenAI تأسیس شد که پس از از دست دادن اعتماد به توانایی رهبری OpenAI، به‌ویژه سم آلتمن، برای معرفی ایمن هوش مصنوعی تحول‌آفرین به جهان، از آن جدا شدند. این احساس هنوز هم شرکت را شکل می‌دهد. کارمندان سابق می‌گویند مدیران Anthropic اغلب آلتمن و OpenAI و تا حدی Meta و xAI ایلان ماسک را به عنوان نمونه‌های هشداردهنده برای تعریف حس مسئولیت خودشان توصیف می‌کنند. این شرکت خود را سازمانی با «اعتماد بالا و خودخواهی کم» معرفی می‌کند. با این حال، شازدا احمد، پژوهشگر UCLA، می‌گوید سازمان‌هایی مانند Anthropic اغلب با فقدان کثرت‌گرایی فکری مواجه هستند. او معتقد است که جنبش ایمنی هوش مصنوعی، که ریشه در خرده‌فرهنگ‌هایی مانند نوع‌دوستی مؤثر دارد، از همگونی فکری رنج می‌برد و تمایل به خودگردانی دارد. یکی از بزرگ‌ترین بحث‌های داخلی در Anthropic در پاییز ۲۰۲۴ رخ داد، زمانی که این شرکت به عنوان اولین آزمایشگاه هوش مصنوعی با Palantir برای ارائه خدمات هوش مصنوعی به سازمان‌های اطلاعاتی و دفاعی ایالات متحده همکاری کرد. برخی از کارمندان سابق می‌گویند پرسش‌هایی درباره این معامله مطرح شد، اما این بحث‌ها به تغییر سیاست‌های شرکت منجر نشد. کمتر از دو سال بعد، گزارش شده است که پنتاگون از Claude برای شناسایی اهداف حمله در جنگ اسرائیل و ایران استفاده می‌کند. آمودی در مصاحبه‌ای اخیر با Bloomberg گفت که نمی‌داند آیا مدل‌های Anthropic در حمله‌ای که منجر به کشته شدن بیش از ۱۲۰ نفر در یک مدرسه ابتدایی ایرانی شد، استفاده شده است یا خیر، اما افزود که این یک استفاده تأیید شده از فناوری شرکت خواهد بود، به شرطی که تصمیم نهایی توسط یک انسان گرفته شده باشد. آمودی خود نیز علناً خطرات تمرکز بیش از حد قدرت هوش مصنوعی در دست چند آزمایشگاه، از جمله شرکت خودش را تأیید کرده است. او در مقاله‌ای در اوایل سال جاری نوشت: «گفتن این موضوع به عنوان مدیرعامل یک شرکت هوش مصنوعی تا حدی ناخوشایند است، اما فکر می‌کنم رده بعدی خطر، خود شرکت‌های هوش مصنوعی هستند.» با این حال، راه‌حل‌هایی که او پیشنهاد می‌کند — مانند «نظارت دقیق» بر شرکت‌های هوش مصنوعی و تعهدات عمومی برای «انجام ندادن برخی اقدامات» — تأثیر چندانی در توزیع مجدد اساسی این قدرت نخواهد داشت. منبع: Wired