این هفته، آژانسهای سایبری ائتلاف پنج چشم (Five Eyes)، شامل ایالات متحده، بریتانیا، کانادا، استرالیا و نیوزیلند، هشدار مشترک کمسابقهای صادر کردند؛ هشداری... این هفته، آژانسهای سایبری ائتلاف پنج چشم (Five Eyes)، شامل ایالات متحده، بریتانیا، کانادا، استرالیا و نیوزیلند، هشدار مشترک کمسابقهای صادر کردند؛ هشداری که بر نگرانیهای فزاینده پیرامون پیشرفتهای سریع در زمینه هوش مصنوعی تاکید داشت. ائتلاف پنج چشم هشدار داد که مدلهای پیشگام هوش مصنوعی آمادهاند تا توانمندیهای تهاجمی و تدافعی سایبری را در بازه زمانی کوتاه و چند ماهه متحول کنند. این پیام بازتابی از ترسهای اخیر درباره قابلیتهایی بود که مدل Mythos متعلق به شرکت Anthropic در جهان رها کرده است؛ مدلی که در شرایطی خاص توانست به برخی از امنترین شبکههای آژانس امنیت ملی آمریکا (NSA) نفوذ کند. با موضوعی ترسناک سروکار داریم. Mythos 5 و Fable 5، دو مدل پیشرفته آنتروپیک، پس از آنکه کاخ سفید به دلیل نگرانیهای امنیت ملی و ترس از استفاده رقبای جهانی از دستاورد این مدلها، دسترسی به آنها را قطع کرد، از دسترس عموم خارج شدند. این ترسها کاملا قابل درک هستند. فضای حاکم بر واشنگتن و غرب به وحشت نزدیک است. اما راه بهتر و واقعبینانهتری برای نگاه به این موضوع وجود دارد؛ نگاهی که شاید به جای واشنگتن، باید لرزه بر اندام مسکو و پکن بیندازد. این ابزارهای قدرتمند، در وهله اول یک موهبت راهبردی هستند که محکم در دستان آمریکا قرار دارند. عدم تقارن به نفع آمریکا پیش میرود ان نیوبرگر، پیش از پیوستن به شرکت Andreessen Horowitz، جایی که اکنون شریک عمومی و رئیس امور جهانی آن است، چهار سال به عنوان معاون مشاور امنیت ملی کاخ سفید در امور سایبری و فناوریهای نوظهور فعالیت میکرد. نیوبرگر که بیش از یک دهه در سمتهای ارشد در NSA و پنتاگون نیز حضور داشته است، به نیوزویک گفت: «اساسا هوش مصنوعی یک فناوری با کاربرد دوگانه است.» او با تعریف مفهوم تهاجم به عنوان توانمندیهای نظامی و اطلاعاتی آنها، به عنوان مثال در هدایت ناوگانی از کشتیهای خودران برای دستیابی به یک هدف نظامی، افزود: «این فناوری هم به دشمنان ما کمک میکند و هم به ما. هم در حمله و هم در دفاع یاریرسان است. این فناوری قطعا برتری ما را در جمعآوری اطلاعات افزایش میدهد؛ مزیت اولین حرکت و توانایی سفارشیسازی مدلها برای استفاده در ماموریتهای طبقهبندیشده. در پایه و اساس، داشتن زیرساختهای محاسباتی فیزیکی و استعداد انسانی که آموزش این مدلهای پیشگام را ممکن میسازد، عامل اصلی این برتری است.» نکته اصلی نیوبرگر همان چیزی است که در هیاهو و وحشتِ فعلی گم شده است. او بیان کرد: «من عمیقا باور دارم که وقتی پای مدلهای آمریکایی در میان باشد، این یک عدم تقارن به نفع ماست، البته اگر از آنها هم برای حمله و هم برای دفاع استفاده کنیم. ما میتوانیم نگاهی رو به جلو و پیشرفتهتر داشته باشیم.» او در ادامه گفت: «این یعنی دیدی دستاول نسبت به پیشرفتهای هوش مصنوعی که پیامدهای عمدهای برای امنیت دارد؛ بنابراین، احتمال کمتری وجود دارد که از پیشرفتهای هوش مصنوعی دشمن غافلگیر شویم، چیزی که جامعه امنیت ملی به آن غافلگیری راهبردی میگوید.» این همان سود تیم قرمز است که آمریکا از آن بهره میبرد: کشوری که مدلهای خطرناک را میسازد، اولین فهرست دردناک از نقاط ضعف خود را نیز به دست میآورد. این سود به ظاهر ناخوشایند است، زیرا یافتههای آن میتواند شرمآور باشد. اما به شدت ارزشمند است، چرا که هر نقص تاییدشدهای که در زیرساختهای آمریکا برطرف شود، به فرصتی از دسترفته برای سرویسهای متخاصم تبدیل میشود. پروژه Glasswing متعلق به آنتروپیک – پروژهای که با رویکردی دفاعمحور از Mythos به صورت خصوصی برای کشف نقصها در نرمافزارهای حیاتی و رفع آنها استفاده کرد – این منطق را در عمل نشان میدهد. این پروژه به مدافعان، دسترسی زودهنگام به نسخه پیشنمایش کلود Mythos میدهد و مجموعهای از شرکای اولیه از جمله AWS، اپل، گوگل، جیپی مورگان چیس، مایکروسافت و انویدیا را گرد هم میآورد. نسخه پیشنمایش Mythos، آسیبپذیریهای معتبری را در کدهای متنباز نمایان کرد و با توجه به نرخهای مثبت واقعی پس از تریاژ در آن زمان، در مسیر شناسایی نزدیک به ۳۹۰۰ آسیبپذیری با شدت بالا یا بحرانی (تنها در پروژههای متنباز) قرار داشت. آنتروپیک همچنین اعلام کرد که این پیشنمایش توانسته یک آسیبپذیری ۲۷ ساله را در OpenBSD (سیستمعاملی با شهرت بالا در امنیت سختگیرانه) پیدا کند. با این حال، همه قانع نشدهاند. بروس اشنایر، نویسنده حوزه امنیت، پروژه Glasswing را صرفا یک مانور روابط عمومی خواند و خاطرنشان ساخت که پژوهشگران برخی از یافتههای Mythos را با استفاده از مدلهای ارزانتر و عمومی بازتولید کردهاند. اما این بدبینی، اصل موضوع را رد نمیکند. این نگاه تنها با سناریوی آخرالزمانی مقابله میکند، نه با استراتژی. اگر درباره شدت تهدید اغراق شده باشد، دلیل برای وحشت ضعیفتر میشود. افزون بر این، حتی یک تهدید اغراقآمیز، همچنان دلیلی برای اقدام پیشدستانه است، نه دست روی دست گذاشتن و البته مزایای تهاجمی آن نیز کاملا روشن است. نیوبرگر اظهار داشت مدلهایی که در داخل کشور آموزش دیده و میزبانی میشوند تابع قوانین و امنیت آنها هستند. او افزود: «ما میتوانیم از آنها سریعتر بهرهبرداری کنیم، از جمله در ماموریتهای طبقهبندیشده؛ و در نهایت، این امر اهرمی واقعی برای تعیین استانداردهای جهانی در زمینه ایمنی به ما میدهد.» نه در عرض چند هفته، بلکه در چند ساعت سناتور مارک وارنر، دموکرات ایالت ویرجینیا و نایبرئیس کمیته اطلاعات سنا، ترس و نگرانی آمریکاییها را به وضوح بیان کرد. وارنر به اکونومیست گفت که ژنرال جاشوا راد، رئیس آژانس امنیت ملی و فرماندهی سایبری آمریکا، به او گفته است که Mythos تقریبا به تمام
دیجینوی
دیجینویدیجینوی