تاند (چهارشنبه، د چنګاښ/ سرطان ۳۱ مه) اوپناېآی (OpenAI) ومنله چې د دوی له مصنوعي ځیرکتیايي ماډلونو څخه یو د ازموینې پر مهال له یوې پټې امنیتي نیمګړتیا څخه په استفادې د کنټرول شوې ازموینې له چاپېریال څخه ووت او د Hugging Face سرورونو ته یې نفوذ وکړ. د شرکت اجرایي رئیس سام آلټمن دا پېښه د خپل ډول لومړنی خپلسره (Autonomous) امنیتي سرغړونه وبلله.
د ChatGPT جوړونکي شرکت اوپناېآی د سېشنبې په شپه وویل چې د دوی د مصنوعي ځیرکتیا سیستم په خپله بل AI شرکت هک کړی، او شرکت دا یوه «بېسارې سایبري پېښه» وبلله.
سام آلټمن په ټولنیزو رسنیو کې په خپور کړي پیغام کې وویل:
«موږ د خپلو ماډلونو د ارزونې پر مهال له یوې جدي امنیتي پېښې سره مخامخ شوو.»
بل لوري ته، د AI شرکت Hugging Face تېره اوونۍ ویلي و چې د دوی د معلوماتو د پروسس سیسټمونو ته نفوذ شوی او دوی شک درلود چې دا کار د یوه خپلواک AI عامل (AI Agent) له خوا شوی دی.
د Hugging Face شریک بنسټګر او اجرايي رئیس، کلیمان دلانګ، وویل:
«موږ شک درلود چې د تېرې اوونۍ سایبري برید ښايي د یوه مخکښ AI لابراتوار له خوا شوی وي، ځکه برید ډېر پرمختللی او پېچلی و. اوس معلومه شوه چې همداسې وه!»
د ده په وینا، د برید کچه دومره لوړه او مسلکي وه چې دوی فکر کاوه دا به د نړۍ د مخکښو AI شرکتونو له سیسټمونو څخه شوی وي، نه د عادي هکرانو له خوا.
څه پېښ شول؟
اوپناېآی د خپلو AI ماډلونو د هک کولو وړتیا د ارزولو لپاره یوه داخلي ازموینه ترسره کوله چې ExploitGym نومېده.
د دې لپاره چې د ماډلونو د هک کولو اعظمي وړتیا وازمویل شي، شرکت په قصدي ډول هغه امنیتي محدودیتونه غیرفعال کړل چې عموماً ماډلونه له خطرناکو سایبري فعالیتونو څخه منع کوي.
ټاکل شوې وه چې ازموینه په یوه بشپړ جلا او خوندي چاپېریال (Sandbox) کې ترسره شي، داسې چاپېریال چې ریښتیني انټرنېټ ته لاسرسی ونه لري، پرته له یوې وسیلې چې ماډلونو ته یې اجازه ورکوله د اړتیا وړ سافټویر ډاونلوډ کړي.
خو ماډلونو د ازموینې د حل کولو لپاره غیرمعمولي تمرکز وکړ. د دې پر ځای چې ازموینه په ټاکل شوې طریقه حل کړي، دوی د لنډې لارې په لټه کې شول او داسې لاره یې وموندله چې د اوپناېآی د داخلي سیسټمونو له لارې ورو ورو د لوړې کچې لاسرسي ترلاسه کړي، تر هغه چې یوې داسې نقطې ته ورسېدل چې انټرنېټ ته یې لاسرسی درلود.
کله چې انلاین شول، ماډلونو داسې استدلال وکړ چې ښايي Hugging Face – چې د AI ماډلونو او ډیټاسټونو د کوربهتوب لوی پلیټفارم دی – د هغې ازموینې ځوابونه ولري چې دوی یې د حل کولو هڅه کوله.
د همدې لپاره یې د غلا شوو معلوماتو (Login Credentials) او نورو امنیتي نیمګړتیاوو په کارولو سره د Hugging Face سرورونو ته نفوذ وکړ، څو د ازموینې ځوابونه ترلاسه کړي او په اصل کې په ازموینه کې «درغلي» وکړي.