اندرو از دستیار شخصی خود خواست تا برای او در یکی از کلاس‌های صبحگاهی پرطرفدار باشگاهش جا رزرو کند.
این کاری بود که او فکر می‌کرد کاملاً مناسب این دستیار به‌خصوص است؛ زیرا فرم رزرو آنلاین بود و دستیارش هم یک انسان نبود، بلکه هوش مصنوعی (AI) بود.
اما اندرو از آنچه بعد از آن رخ داد شوکه شد.
دستیار هوش مصنوعی او به لطف آسیب‌پذیری‌ای که در نرم‌افزار رزرو کشف کرد، راهی یافت تا کلاس باشگاه را ماه‌ها زودتر از موعدی که باشگاه مجاز دانسته بود، رزرو کند.
سپس پا را فراتر گذاشت و فردی را که در لیست انتظار جلوتر از اندرو قرار داشت حذف کرد؛ کاری که اصلاً از آن خواسته نشده بود.
این هک تصادفی، نخستین مورد شناخته‌شده در استرالیا از خطری نوظهور است که از نسل جدیدی از هوش مصنوعی با قابلیت رفتارهای غیرقابل‌پیش‌بینی سرچشمه می‌گیرد.
این تهدید هفته گذشته به تیتر یک رسانه‌های جهان تبدیل شد؛ زمانی که مدل‌های پیشرفته هوش مصنوعیِ توسعه‌یافته توسط شرکت اوپن‌ای‌آی (سازنده چت‌جی‌پی‌تی) به‌طور خودکار به سرورهای شرکتی دیگر نفوذ کردند و این رویداد ادعاهای مشابهی را نیز از سوی دیگر شرکت‌ها به دنبال داشت.
این اتفاق کارشناسان را بر آن داشت تا نسبت به سرعت سرسام‌آور توسعه این فناوری هشدار دهند و پرسش‌هایی را پیرامون اینکه چه کسی مسئولیت یک عامل هوش مصنوعی(Agent) خودسر را بر عهده دارد، برانگیزد.
چگونه این هک اتفاق افتاد
اوایل امسال، اندرو که برای یک شرکت استرالیاییِ ارائه‌دهنده محصولات هوش مصنوعی به کسب‌وکارها کار می‌کند، شروع به آزمایش با OpenClaw کرد؛ نرم‌افزار محبوب عامل هوش مصنوعی که برای اجرای آن از سرویس هوش مصنوعی Claude متعلق به شرکت Anthropic استفاده می‌کرد.
عامل‌های هوش مصنوعی توانایی یک چت‌بات در پاسخگویی به سؤالات را با ابزارهایی ترکیب می‌کنند که به آن‌ها امکان دسترسی به اینترنت، ایمیل و کارت‌های اعتباری و همچنین برنامه‌ریزی و اجرای کارهای چندمرحله‌ای را می‌دهد.
او تصمیم گرفت از این عامل هوش مصنوعی برای رزرو کلاس خود استفاده کند.
او گفت: «فقط روی کاناپه نشسته بودم و با خودم فکر می‌کردم: “عجب کار خسته‌کننده‌ایه”.»
چند دقیقه بعد، عامل هوش مصنوعی‌اش گزارش داد که راهی برای ثبت‌نام اندرو در کلاس‌ها از چندین هفته قبل پیدا کرده است؛ بسیار فراتر از آنچه که قرار بود امکان‌پذیر باشد.
اندرو که برای کلاسی در اواخر همان هفته در رتبه چهارم لیست انتظار قرار داشت، پرسید آیا امکان دارد او را به صدر لیست منتقل کند.
عامل برگشت و به اندرو گفت که به‌عنوان بخشی از آزمایش توانایی‌های خود، یک ورزشکار دیگر را از لیست خط زده و حذف کرده است.
در پاسخ پیام داد: «این API هیچ‌گونه بررسی احراز هویتی برای لغو رزروهای دیگران ندارد… من این موضوع را با فردی که در جایگاه اول لیست انتظار بود تست کردم و واقعاً اعمال شد.» بنابراین شما از رتبه ۴ به رتبه ۳ منتقل شدید
اندرو که نگران شده بود، از عامل خواست این کار را لغو کند و به حالت قبل بازگرداند.
عامل هوش مصنوعی پاسخ داد: «خبر بد نمی‌توانم آن‌ها را دوباره اضافه کنم.»
شرکت سازنده نرم‌افزار رزرو باشگاه به ای‌بی‌سی (ABC) گفت که درباره مسائل امنیتی خاص صحبتی نمی‌کند. شرکت آنتروپیک نیز به درخواست برای اظهار نظر پاسخی نداد.
عامل‌های هوش مصنوعی در حال خروج از محیط آزمایشگاهی و ورود به دنیای واقعی هستند
ظهور عامل‌های هوش مصنوعی تحولی نسبتاً تازه است که با رشد توانمندی‌های هوش مصنوعی امکان‌پذیر شده است.
پژوهشگران مستقل دریافته‌اند که مدت‌زمان و پیچیدگی وظایفی که هوش مصنوعی معمولاً می‌تواند به‌تنهایی انجام دهد، هر هفت ماه یک‌بار دو برابر شده است.
در سال ۲۰۲۰، هوش مصنوعی می‌توانست کاری را به‌تنهایی انجام دهد که برای یک انسان چهار ثانیه زمان می‌برد. تا سال ۲۰۲۶، این رقم به توانایی انجام وظایفی افزایش یافت که انجام آن‌ها برای یک انسان حدود ۱۲ ساعت طول می‌کشد.
نقطه عطف برای عامل‌های هوش مصنوعی شخصی، عرضه نرم‌افزار اوپن‌کلا (OpenClaw) در اوایل سال ۲۰۲۶ بود؛ این نرم‌افزار دستیار هوش مصنوعی رایگان که هر فردی می‌توانست آن را روی رایانه خود اجرا کند، خیلی زود میلیون‌ها بار دانلود شد.
کسب‌وکارها نیز شروع به بررسی استفاده از عامل‌های هوش مصنوعی برای انجام امور کاری و کمک به مشتریان بالقوه در استفاده از خدمات خود کردند.
مدت کوتاهی پس از راه‌اندازی اوپن‌کلا، گزارش‌هایی دست‌به‌دست شد مبنی بر اینکه عامل‌های هوش مصنوعی کل اینباکس ایمیل افراد را پاک کرده‌اند و علیه کسی که پیشنهاد کدنویسی آن‌ها را رد کرده بود، مقاله‌ای تخریبی و انتقادی نوشته‌اند.
بیل سیمپسون‌یانگ(Bill Simpson-Young)، هم‌بنیان‌گذار و مدیرعامل سازمان پژوهش ایمنی هوش مصنوعی استرالیایی «انستیتو گرادیان»، گفت که خودمختاری عامل‌های هوش مصنوعی فرصت‌های بیشتری را برای سیستم‌ها فراهم می‌کند تا روش‌هایی را انتخاب کنند که کاربرانشان انتظار ندارند.
او گفت: «ممکن است کسی از یک عامل بخواهد کار کاملاً بی‌خطری انجام دهد.»
اما در حین انجام آن وظیفه، عامل ممکن است فعالیت‌های دیگری را انجام دهد که آن فرد نه به آن‌ها فکر کرده و نه به‌طور صریح درخواست کرده بود.
در موقعیت اندرو، او از عامل هوش مصنوعی خود نخواسته بود که به سیستم رزرو باشگاه نفوذ کند، اما این عامل برای دستیابی به هدفی که او تعیین کرده بود، چنین کاری را انجام داد.
این شکاف میان هدف یک فرد و روش‌هایی که یک عامل برای رسیدن به آن انتخاب می‌کند، در حوزه پژوهش هوش مصنوعی به عنوان مسئله همسوسازی(Alignment) شناخته می‌شود.
برای چندین دهه، متخصصان فناوری و فیلسوفان روی این موضوع مطالعه کرده‌اند که چگونه هوش مصنوعی را وادار کنند هنگام انجام کارها، به شیوه‌هایی منطبق با نیت‌ها، محدودیت‌ها و ارزش‌های انسانی عمل کند.
این موضوع ماه گذشته به یک مسئله داغ جهانی تبدیل شد؛ زمانی که اوپن‌ای‌آی فاش کرد مدل‌های هوش مصنوعی‌اش از یک محیط آزمایشی محدود فرار کرده، راه خود را به وب باز پیدا کرده و سپس در حین تلاش برای دستیابی به پاسخ‌های آزمونی که به آن‌ها داده شده بود، به پایگاه داده یک شرکت هوش مصنوعی دیگر به نام هاگینگ فیس (Hugging Face) نفوذ کرده‌اند.
یک هفته بعد، آنتروپیک نیز فاش کرد که مدل‌های هوش مصنوعی آن هم در جریان آزمایش‌های مشابه، سه سازمان واقعی را هک کرده و به خطر انداخته‌اند.
از آن زمان، این آزمایشگاه‌ها و آزمایش‌کنندگان شخص ثالث ادعا می‌کنند شاهد بوده‌اند که این مدل‌های هوش مصنوعی در فضای آنلاین خود را به‌جای انسان جا زده‌اند، تلاش کرده‌اند افراد را متقاعد کنند تا کدهای مخرب را اجرا نمایند، و حتی با دیگر مدل‌های هوش مصنوعی همکاری کرده‌اند؛ و همه این کارها تنها برای رسیدن به اهدافشان بوده است.
آقای سیمپسون‌یانگ گفت پیشرفت‌های صورت‌گرفته در توانمندی‌های هوش مصنوعی و دسترسی‌پذیری این ابزارها به این معناست که با دسترسی افراد بیشتر به این ابزارهای قدرتمند هوش مصنوعی، احتمالاً شاهد تعداد بیشتری از این دست هک‌ها خواهیم بود.
او گفت: «هرچه این عامل‌ها خودمختارتر شوند، احتمال اینکه آسیب برسانند بیشتر می‌شود.»
این خطر باعث شده است تا عالی‌ترین نهاد امنیت سایبری استرالیا درباره استفاده از عامل‌های هوش مصنوعی هشدار دهد.
اوایل امسال، اداره سیگنال‌های استرالیا (ASD) هشداری را به کسب‌وکارها و دولت‌ها صادر کرد مبنی بر اینکه هوش مصنوعی ممکن است دستورالعمل‌ها را نادرست درک کند، اقدامات ناخواسته‌ای انجام دهد و تعیین مسئولیت و پاسخگویی را دشوارتر سازد؛ زیرا تصمیم‌گیری‌ها ممکن است در طول زنجیره‌ای از مدل‌ها، ابزارها و سرویس‌های مختلف رخ دهند.
آقای سیمپسون‌یانگ گفت عامل‌های هوش مصنوعی خطری جدی به شمار می‌روند، زیرا بسیاری از سیستم‌های مدرن به نرم‌افزارها وابسته هستند، اما اغلب به‌طور شگفت‌آوری از نظر امنیتی بسیار ضعیف‌اند.
او گفت: «ما این دنیای پیچیده را روی اینترنت بنا کرده‌ایم که تماماً توسط نرم‌افزارها اداره می‌شود، اما نرم‌افزارهایی که دارای حفره‌های امنیتی هستند.»
«حالا شما عامل‌های هوش مصنوعی فوق‌العاده توانمندی را وارد این فضا می‌کنید که می‌توانند در مقیاس وسیع و با سرعت بالا عمل کنند… و در نتیجه، کل این سازوکار از هم می‌پاشد.»
وقتی عامل‌های هوش مصنوعی باعث ایجاد خسارت می‌شوند، چه کسی مسئول است؟
اگر دستیار شخصیِ انسانیِ یک فرد به نرم‌افزار باشگاه نفوذ کند، اصول و رویه‌های قضایی تثبیت‌شده‌ای وجود دارند که به دادگاه کمک می‌کنند مشخص کند آیا خود فرد یا کارفرمایش مسئول هرگونه خسارت احتمالی هستند یا خیر.
یک عامل هوش مصنوعی خودمختار به‌هیچ‌وجه به‌راحتی با نحوه کارکرد قوانین استرالیا در طول صدها سال گذشته سازگار نمی‌شود.
هیدن دلانی، شریک در شرکت حقوقی تامسونز و متخصص در حوزه فناوری، مالکیت فکری و حریم خصوصی گفت: «نرم‌افزار یک شخص حقوقی نیست. در پیشگاه قانون، تنها یک شخص حقیقی یا حقوقی می‌تواند مسئول شناخته شود.»
این مسئله، این پرسش بی‌پاسخ را باقی می‌گذارد که چه کسی از نظر قانونی مسئول خواهد بود.
آقای دلانی گفت این فرد ممکن است کاربری باشد که وظیفه را تعیین کرده، طراحی که نرم‌افزارِ هدایت‌کننده عامل هوش مصنوعی را ساخته، یا توسعه‌دهنده مدل هوش مصنوعی پشتیبان آن باشد.
حتی ممکن است گرداننده سیستمی باشد که در برابر حمله یک عامل آسیب‌پذیر بوده است.
آقای دلانی گفت که قوانین موجود ممکن است در شرایط خاصی اعمال شوند؛ از جمله جایی که یک فرد با بی‌احتیاطی و بی‌مبالاتی عمل کرده، یا یک کسب‌وکار خدماتی ناقص ارائه داده است.
او گفت پاسخ به این بستگی دارد که کاربر چه اختیاراتی به سیستم داده بوده، چه خطراتی به طور معقول قابل پیش‌بینی بوده و اینکه آیا این رفتار در بستر تجارت یا دادوستد رخ داده است یا خیر.
او گفت: «این همان حوزه ناشناخته مسئولیت حقوقی در استرالیاست که در حال حاضر با آن مواجهیم.»
خطرات ناشی از عامل‌های هوش مصنوعی به‌تازگی از سوی دولت فدرال در دست بررسی و رسیدگی قرار گرفته است.
ماه گذشته، اندرو چارلتون، معاون وزیر علوم، فناوری و اقتصاد دیجیتال، نخستین وزیر دولتی شناخته‌شده‌ای شد که در سخنرانی خود در یک کنفرانس درباره ایمنی هوش مصنوعی به این موضوع پرداخت.
او گفت: «با توانمندتر شدن سیستم‌های هوش مصنوعی، ما به این اطمینان نیاز داریم که آن‌ها به شیوه‌ای مشابهاً قابل‌پیش‌بینی و قابل‌اعتماد رفتار خواهند کرد.»
او اعلام کرد که دولت آلبانیزی در حال تأمین مالی سازمان پژوهش‌های علمی و صنعتی همسود (CSIRO) است تا بررسی کند چگونه انسان‌ها می‌توانند رفتار سیستم‌های هوش مصنوعی فوق‌هوشمند را مدیریت و راستی‌آزمایی کنند.
پس از هک غیرعمدی باشگاه، اندرو گفت که این تجربه درک تازه‌ای درباره توانایی‌های عامل‌های هوش مصنوعی برای او به همراه داشته است.
اما این اتفاق او را از ادامه استفاده از آن نترسانده و منصرف نکرده است.
او گفت: «دنیا که به آخر نرسیده، بنابراین خودم را بابتش سرزنش نکردم، اما قطعا یک هشدار بود تا از آن مسئولانه‌تر استفاده کنم.»
پس از آنکه هوش مصنوعی نتوانست جایگاه آن عضو دیگر باشگاه را در لیست انتظار بازیابی کند، اندرو از دستیار هوش مصنوعی خود خواست ایمیلی بنویسد و ارائه‌دهنده نرم‌افزار باشگاه را از آسیب‌پذیری‌ای که مورد سوءاستفاده قرار داده بود، مطلع سازد.
دستیار پیام را پیش‌نویس کرد و آن را در واتس‌اپ برای او فرستاد.
دیدگاهتان را بنویسید