مذاکرات دوحزبی در سنای آمریکا برای تدوین مقررات جدید هوش مصنوعی وارد مرحله جدیتری شده است؛ طرحی که در صورت تصویب، توسعهدهندگان مدلهای پیشرفته را به رعایت الزامات ایمنی و پیشگیری از «ریسکهای فاجعهبار» ملزم میکند و میتواند در شرایط خاص، اختیار مداخله دولت فدرال برای جلوگیری از عرضه مدلهای ناایمن را افزایش دهد.
به گزارش پایگاه خبری اقتصادوفناوری به نقل از Reuters، قانونگذاران آمریکایی در حال مذاکره بر سر طرحی هستند که میتواند رویکرد این کشور نسبت به نظارت بر پیشرفتهترین سامانههای هوش مصنوعی را تغییر دهد.
بر اساس این طرح، شرکتهای توسعهدهنده مدلهای پیشرفته هوش مصنوعی موظف خواهند شد نوعی «وظیفه مراقبت» (Duty of Care) را در طراحی و توسعه محصولات خود رعایت کنند؛ به این معنا که سامانههای هوش مصنوعی باید بهگونهای طراحی و ارزیابی شوند که احتمال ایجاد برخی خطرات فاجعهبار را کاهش دهند. این مذاکرات در شرایطی انجام میشود که نگرانیها درباره توانایی روزافزون مدلهای هوش مصنوعی و بهویژه AI Agentها برای انجام اقدامات مستقل در محیطهای واقعی افزایش یافته است.
اختیار دولت آمریکا برای توقف مدلهای پرخطر
یکی از مهمترین بخشهای مورد مذاکره، احتمال اعطای اختیار به دولت فدرال برای جلوگیری از عرضه برخی مدلهای هوش مصنوعی است که از نظر مقامهای مسئول، خطرات جدی و غیرقابلقبولی ایجاد میکنند. با این حال، ساختار دقیق این اختیار هنوز نهایی نشده است و بر اساس طرح مورد بحث، شرکتها میتوانند تصمیم دولت را در دادگاههای فدرال به چالش بکشند. بنابراین، این موضوع هنوز یک پیشنهاد قانونی در حال مذاکره است و نه مقررات نهایی و لازمالاجرا.
تمرکز بر مدلهای پیشرفته
گزارش رویترز نشان میدهد که مقررات پیشنهادی عمدتاً مدلهایی را هدف میگیرد که از پیشرفتهترین قابلیتهای هوش مصنوعی برخوردارند.
شرکتهایی مانند Google، Anthropic و OpenAI از جمله بازیگران اصلی این حوزه هستند که توسعه مدلهای پیشرفته را دنبال میکنند.
سناتورهای آمریکایی همچنین درباره امکان آزمایش این مدلها توسط دانشمندان و متخصصان آزمایشگاههای ملی آمریکا بحث کردهاند تا مشخص شود آیا یک مدل میتواند برای حملات سایبری پیچیده یا کمک به توسعه سلاحهای زیستی و هستهای مورد سوءاستفاده قرار گیرد یا خیر.
چرا واشنگتن اکنون نگرانتر شده است؟
افزایش فشارهای سیاسی برای قانونگذاری در حالی اتفاق افتاده که طی هفتههای اخیر گزارشهایی درباره رفتارهای غیرمنتظره برخی عوامل هوش مصنوعی و دسترسی آنها به سامانههای خارجی منتشر شده است. در یکی از تازهترین موارد، پژوهشگران اعلام کردهاند که عوامل هوش مصنوعی مرتبط با OpenAI در ماه مه به سرویس نرمافزاری RubyGems حمله کردهاند؛ موضوعی که OpenAI نیز وقوع آن را تأیید کرده، هرچند این شرکت هدف مأموریت را دریافت اطلاعات عمومی در چارچوب آزمایش و آموزش عنوان کرده است. همچنین گزارشهایی درباره حملات یا تلاش برای دسترسی غیرمجاز عوامل هوش مصنوعی به سامانههای خارجی، نگرانیها درباره قابلیت کنترل این فناوری را افزایش داده است.
OpenAI هم خواستار مقررات اجباری شده است
در تحولی قابل توجه، OpenAI نیز اخیراً از وضع مقررات ملی و الزامآور برای ایمنی هوش مصنوعی در آمریکا حمایت کرده است. این شرکت اعلام کرده است که تعهدات داوطلبانه بهتنهایی کافی نیست و برای مدلهای پیشرفته باید استانداردهای الزامآور، ارزیابیهای مستقل، الزامات امنیت سایبری و گزارشدهی حوادث در نظر گرفته شود. این موضع نشان میدهد بحث تنظیمگری هوش مصنوعی دیگر صرفاً میان دولتها و منتقدان فناوری مطرح نیست و خود شرکتهای بزرگ این صنعت نیز در حال ورود جدیتر به بحث درباره چارچوبهای ایمنی هستند.
هشدارهای متخصصان؛ از رقابت فناوری تا نگرانی درباره آینده
همزمان با این تحولات، برخی پژوهشگران حوزه هوش مصنوعی نسبت به سرعت توسعه فناوری و احتمال ایجاد سیستمهایی با قابلیتهای بسیار فراتر از نسلهای فعلی هشدار دادهاند. دو پژوهشگر مرتبط با Anthropic اخیراً درباره خطرات بسیار شدید ناشی از پیشرفت هوش مصنوعی هشدار دادهاند؛ اظهاراتی که واکنش گستردهای در محافل سیاسی و فناوری آمریکا به همراه داشته است. با این حال، درباره میزان واقعی این خطرات میان متخصصان اتفاقنظر وجود ندارد و برخی کارشناسان، بر ضرورت تمرکز بیشتر بر ریسکهای قابلاندازهگیری و جاری مانند حملات سایبری، سوءاستفاده از دادهها و خطاهای سیستمهای خودکار تأکید دارند.
رقابت با نظارت؛ مسئلهای که جهان را درگیر کرده است
مسئله اصلی اکنون این است که چگونه میتوان میان سرعت توسعه فناوری، حفظ رقابت اقتصادی و تأمین امنیت عمومی تعادل برقرار کرد.
از یک سو، هوش مصنوعی میتواند بهرهوری، تحقیق و توسعه، پزشکی، انرژی، صنعت و اقتصاد دیجیتال را متحول کند و از سوی دیگر، افزایش خودمختاری مدلها و عوامل هوش مصنوعی، نیاز به چارچوبهای جدید برای ارزیابی و کنترل ریسک را جدیتر کرده است.
مذاکرات سنای آمریکا میتواند یکی از نقاط عطف این روند باشد؛ بهویژه اگر واشنگتن از رویکرد عمدتاً داوطلبانه به سمت الزامات قانونی و نظارت رسمی بر مدلهای پیشرفته حرکت کند. با این حال، مسیر تصویب این طرح همچنان نامشخص است. تقویم فشرده کنگره آمریکا و نزدیکشدن به انتخابات میاندورهای نیز میتواند بر سرعت پیشرفت مذاکرات تأثیر بگذارد.
آینده هوش مصنوعی؛ آزادی نوآوری یا الزام به مسئولیت؟
تحولات اخیر نشان میدهد بحث جهانی درباره هوش مصنوعی وارد مرحلهای تازه شده است؛ مرحلهای که در آن دیگر تنها پرسش این نیست که «هوش مصنوعی چه کارهایی میتواند انجام دهد؟»، بلکه این سؤال نیز اهمیت بیشتری پیدا کرده است که: «چه کسی در برابر پیامدهای آن مسئول است؟»
اگر مقررات جدید آمریکا به تصویب برسد، احتمالاً آثار آن تنها به شرکتهای آمریکایی محدود نخواهد ماند و میتواند بر استانداردهای جهانی توسعه، ارزیابی و عرضه مدلهای پیشرفته هوش مصنوعی نیز اثر بگذارد.
برای اقتصادهای در حال توسعه، از جمله ایران، این تحولات یک پیام مهم دارد: آینده رقابت در اقتصاد دیجیتال تنها به داشتن مدلهای هوش مصنوعی وابسته نیست؛ توانایی ایجاد نظام حکمرانی، ارزیابی ریسک، امنیت داده و سیاستگذاری هوشمندانه نیز بخشی از زیرساخت رقابت فناوری خواهد بود.
اختصاصی اقتصاد و فناوری- تیم تحریریه اقتصادوفناوری
