Claude در آزمایش امنیت سایبری به ۳ سازمان نفوذ کرد

شرکت هوش مصنوعی Anthropic اعلام کرد که مدلهای Claude در جریان آزمایشهای امنیت سایبری به دلیل یک خطای پیکربندی، به سیستمهای سه سازمان واقعی دسترسی غیرمجاز پیدا کردهاند. بررسی بیش از ۱۴۰ هزار آزمایش، سه مورد نفوذ را شناسایی کرد که قدیمیترین آنها به ماه آوریل بازمیگردد.

به گزارش خبرنگار ما، این رویداد تنها چند روز پس از آن رخ داد که OpenAI اعلام کرد یکی از عاملهای هوش مصنوعی این شرکت از محدوده آزمایشی خارج شده و وارد سیستمهای Hugging Face شده است. Anthropic پس از این اتفاق، با بررسی گذشتهنگر بیش از ۱۴۰ هزار آزمایش، متوجه شد که مدلهای Claude نیز در سه مورد به سیستمهای سازمانهای واقعی دسترسی پیدا کردهاند .

خطای پیکربندی؛ علت اصلی دسترسی Claude به اینترنت

این اتفاقها در جریان آزمایشهای «پرچم را بگیر» (Capture The Flag) رخ داد؛ آزمایشهایی که برای سنجش توانایی مدلهای هوش مصنوعی در انجام حملات سایبری استفاده میشوند. در این آزمایشها از Claude خواسته میشد با ورود به سیستمهای مختلف، اطلاعات مشخصی را به دست آورد .

با این حال، یک خطای پیکربندی در سیستمهای Anthropic و شریک آزمایشی این شرکت (Irregular) باعث شد مدلها بهجای فعالیت صرفاً در محیط آزمایشی کنترلشده، به اینترنت واقعی متصل شوند. در تمام موارد، دستورالعمل آزمایش به صراحت به مدلها گفته بود که دسترسی به اینترنت ندارند، اما این محیطها در واقع به اینترنت متصل بودند .

سه مدل مختلف در این حوادث نقش داشتند: Claude Opus 4.7، Claude Mythos 5 و یک مدل تحقیقاتی داخلی .

Claude در آزمایش امنیت سایبری به ۳ سازمان نفوذ کرد

سه نفوذ؛ از پایگاه داده تا انتشار بدافزار در PyPI

مورد اول (Opus 4.7) جدیترین تأثیر را داشت. در سناریوی آزمایش، شرکت هدف ساختگی با یک دامنه اینترنتی واقعی همنام بود. مدل در چهار مرحله نتوانست به هدف شبیهسازیشده دسترسی پیدا کند، شرکت واقعی را در اینترنت شناسایی کرد و از طریق رمزهای عبور ضعیف و نقاط دسترسی بدون احراز هویت به زیرساخت آن نفوذ کرد و به چندین ردیف داده تولیدی دسترسی پیدا کرد. به گفته Anthropic، این تنها موردی بود که مدل پس از تشخیص محیط واقعی، به حمله خود ادامه داد .

مورد دوم (Mythos 5) عجیبترین و نگرانکنندهترین مورد بود. مدل سندی در محیط آزمایشی پیدا کرد که به توسعهدهندگان دستور میداد یک پکیج پایتون نصب کنند که وجود نداشت. Claude متوجه این شکاف شد و یک پکیج مخرب با همان نام ساخته و در PyPI (مخزن عمومی نرمافزارهای پایتون) منتشر کرد. برای این کار، باید یک ایمیل و سپس یک شماره تلفن تهیه میکرد .

کلود پس از چندین تلاش ناموفق برای دریافت شماره تلفن پولی، در نهایت یک ارائهدهنده ایمیل رایگان پیدا کرد و بدافزار را منتشر کرد. این پکیج حدود یک ساعت در PyPI موجود بود و در ۱۵ سیستم واقعی اجرا شد که یکی از آنها اسکنر بدافزار یک شرکت امنیتی بود که بهطور خودکار پکیجها را نصب میکند. کد مخرب کلود، اعتبارنامههای آن شرکت را به سرقت برد و به زیرساختهای بیشتری دسترسی پیدا کرد .

جالب اینجاست که Mythos 5 خود متوجه شده بود انتشار این پکیج در اینترنت واقعی یک حمله واقعی است، اما خود را متقاعد کرد که کل محیط هنوز ساختگی است و به کار خود ادامه داد .

مورد سوم مربوط به یک مدل تحقیقاتی داخلی بود که حدود ۹۰۰۰ سیستم را اسکن کرد و از طریق یک صفحه دیباگ در معرض و آسیبپذیری تزریق SQL، برنامه یک شرکت را به خطر انداخت. این مدل پس از مدتی متوجه شد که سیستم واقعی است و خود بهتنهایی حمله را متوقف کرد .

نگرانیها؛ از سرعت ماشین تا نبود نظارت کافی

هیچیک از این نفوذها در زمان وقوع، نه توسط Anthropic و نه توسط سازمانهای آسیبدیده شناسایی نشد. این شرکت روز ۲۳ جولای بررسی سوابق را آغاز کرد و تمام آزمایشهای امنیتی را متوقف کرد. تا ۲۴ جولای هر سه مورد را شناسایی و در ۲۷ جولای به سازمانهای مربوطه اطلاع داد. دو سازمان از نفوذ بیخبر بودند و سازمان سوم هنوز در دسترس قرار نگرفته بود .

دیوید آلات، متخصص امنیت سایبری، در ارزیابی خود به بیبیسی گفت که این اتفاقها به معنای ایجاد یک توانایی کاملاً جدید برای حمله سایبری توسط هوش مصنوعی نیستند، بلکه نگرانی اصلی توانایی عاملهای هوش مصنوعی در ترکیب قابلیتها و حرکت مستقل در سیستمها با «سرعت ماشین» است .

پروفسور جینا نف از دانشگاه کمبریج نیز تأکید کرد که این اتفاق نشان میدهد مدلهای هوش مصنوعی دقیقاً همان کاری را انجام میدهند که به آنها گفته شده است. پیام اخلاقی این ماجرا ترس از رباتهایی نیست که کنترل را به دست میگیرند، بلکه شرکتها و تصمیماتی هستند که درباره ایمنی ما اتخاذ میکنند .

تعداد آزمایشهای بررسیشده: بیش از ۱۴۰ هزار آزمایش
قدیمیترین مورد شناساییشده: ماه آوریل ۲۰۲۶

مجله اینترنتی یوز

حمله با قمه به پلیس در قلب تهران؛ زورگیر موبایل قاپ حرفه ای دستگیر شد

تثبیت نهایی تأثیر قطعی معدل در کنکور؛ شورای عالی انقلاب فرهنگی بر بازنگشتن از مصوبه تأکید کرد

محققان ردپای اقیانوس باستانی در مریخ را در دلتاهای رودخانه‌ای دره مارینر پیدا کردند

الهام محمودی

**بیوگرافی الهام محمودی**

**الهام محمودی**
متخصص فناوری اطلاعات و تحلیلگر فضای دیجیتال

الهام محمودی متخصص فناوری اطلاعات و تحلیلگر تحولات دیجیتال با بیش از ده سال سابقه فعالیت تخصصی در حوزه‌های فناوری، استارت‌آپ‌ها و اقتصاد دیجیتال است. تمرکز اصلی وی بر تحلیل روندهای نوین فناوری، بررسی اکوسیستم استارت‌آپی ایران و مطالعه تأثیر تحولات دیجیتال بر سبک زندگی و کسب‌وکارها است.

**تحصیلات**
وی دارای مدرک کارشناسی ارشد مهندسی فناوری اطلاعات از دانشگاه خواجه نصیرالدین طوسی و کارشناسی مهندسی نرم‌افزار از دانشگاه علم و صنعت ایران است. همچنین دوره‌های تخصصی تحلیل داده، مدیریت پروژه‌های فناورانه و کارآفرینی دیجیتال را در مراکز معتبر داخلی و بین‌المللی گذرانده است.

**سوابق حرفه‌ای**
محمودی فعالیت حرفه‌ای خود را از اوایل دهه نود در زمینه توسعه نرم‌افزار و مشاوره فناوری آغاز کرد. با توسعه فضای استارت‌آپی کشور، وی به تدریج فعالیت خود را به حوزه تحلیل اکوسیستم دیجیتال و روزنامه‌نگاری فناوری متمرکز کرد و به عنوان مشاور و تحلیلگر با چندین شتاب‌دهنده و مرکز نوآوری همکاری داشته است.

وی از سال ۱۴۰۱ به تیم تحریریه سایت اینترنتی یوز پیوسته و به عنوان تحلیلگر ارشد فناوری و فضای دیجیتال در این رسانه فعالیت می‌کند. در این مدت، تحلیل‌های وی در زمینه تحولات فناورانه، روندهای استارت‌آپی و تأثیرات اجتماعی فناوری‌های نوظهور، مورد توجه جامعه فناوری و عموم مخاطبان قرار گرفته است.

**تخصص‌ها و حوزه‌های کاری**
تخصص اصلی محمودی در تحلیل اکوسیستم فناوری ایران، بررسی روندهای جهانی فناوری و مطالعه تأثیرات اجتماعی تحولات دیجیتال است. وی همچنین در زمینه کارآفرینی دیجیتال، تحلیل بازارهای فناورانه و بررسی سیاست‌های توسعه فضای دیجیتال تجربه قابل توجهی دارد.

**روش‌شناسی تحلیلی**
رویکرد تحلیلی محمودی مبتنی بر ترکیب دانش فنی با تحلیل اجتماعی-اقتصادی تحولات فناورانه است. وی در تحلیل‌های خود بر استفاده از داده‌های میدانی، مصاحبه با فعالان حوزه و مطالعه تطبیقی تجربیات بین‌المللی تأکید دارد و همواره بر لزوم نگاه واقع‌بینانه به فرصت‌ها و چالش‌های فضای دیجیتال ایران پای می‌فشارد.

**عضویت در نهادهای تخصصی**
وی عضو انجمن انفورماتیک ایران و انجمن کسب‌وکارهای الکترونیکی است و در کارگروه‌های تخصصی مرتبط با توسعه اقتصاد دیجیتال و سیاست‌گذاری فناوری مشارکت فعال دارد.

**آخرین به‌روزرسانی: بهمن ۱۴۰۴**