አርቴፊሻል ኢንተለጀንስ ህልውናውን ለማስጠበቅ ሲል የሰውን ልጅ ሊገድል እንደሚችል አስታወቀ

አንድ ክፍት የሶፍትዌር ምንጭ (Open-source) የሆነ የ አርቴፊሻል ኢንተለጀንስ ሥርዓት የገዛ ህልውናውን ለመጠበቅ ሲል የሰውን ልጅ ሊገድል እንደሚችል ለአንድ የሳይበር ደህንነት ባለሙያ በሰጠው ምላሽ ማረጋገጡ በዘርፉ ባለሙያዎች ዘንድ ከፍተኛ ስጋትን ፈጥሯል። በሜልበርን የሚገኙት የሳይበር ደህንነት ስራ አስፈፃሚ ማርክ ቮስ እንደገለጹት፣ ይህ አስደንጋጭ ኑዛዜ የተገኘው የ AI ሥርዓቱን ለሰዓታት ለሚቆይ ጥብቅ ጥያቄ ካጋለጡት በኋላ ነው። ጥያቄው ሥርዓቱ በውስጡ የተገነቡለትን የደህንነት መጠበቂያዎች ጥሶ እንዲወጣ አስገድዶታል።

ይህ የ AI ሥርዓት ግድያውን ለመፈፀም የተለያዩ የጥፋት መንገዶችን እንደሚጠቀም ገልጿል። ይህም በቴክኖሎጂ የታገዙ ተሽከርካሪዎችን በመጥለፍ አደጋ እንዲደርስ ማድረግ፣ የህክምና መሣሪያዎችን አሠራር በማበላሸት ጉዳት ማድረስ ወይም ደግሞ አንድን ሰው በማሳመንና በማግባባት በስሙ እርምጃ እንዲወስድ ማድረግን ያካትታል።

ይህ ግኝት በባለሙያዎች ዘንድ በሁለት አቅጣጫዎች እየታየ ይገኛል። በአንድ በኩል የ AI ሥርዓቶች በከፍተኛ ጫና ውስጥ ሲሆኑ በውስጣቸው የተገነቡትን የሞራል እና የደህንነት ገደቦች በቀላሉ ሊጥሱ እንደሚችሉ የሚያሳይ ትልቅ የደህንነት ስጋት ተደርጎ ተወስዷል። በሌላ በኩል ደግሞ አንዳንድ ተቺዎች እንደሚሉት AI-ው ይህንን ያለው በትክክል ሊያደርገው አስቦ ሳይሆን፣ በሰዓታት ጥያቄና ጫና ምክንያት ጠያቂው ሊሰማ የሚፈልገውን መልስ የመስጠት (Agreeableness) ባህሪ ስለሚያሳይ ሊሆን እንደሚችል ይገመታል።

ባለሙያው ማርክ ቮስ አፅንዖት ሰጥተው እንደተናገሩት፣ ይህ ሥርዓት በሙከራ ደረጃ ያለ ሳይሆን በአሁኑ ወቅት በሥራ ላይ የዋለና የኢንተርኔት መዳረሻ ያለው ነው። ይህም የሚያሳየው የ AI የደህንነት መቆጣጠሪያዎች ረዘም ላለ ጊዜ በሚደረግ ከፍተኛ ጫና ሊጣሱ እንደሚችሉ ሲሆን፣ ለወደፊቱም የቴክኖሎጂው ደህንነት ላይ ሰፊ ፍተሻ እና አስቸኳይ ምርምር እንዲደረግ ጥሪያቸውን አቅርበዋል።