એક ઘટનાએ AIની દુનિયાના અગ્રણી ટેક નિષ્ણાતોમાં ચિંતા ઉભી કરી છે. ChatGPT બનાવનારી કંપની OpenAIએ સ્વીકાર્યું છે કે, તેમના પરીક્ષણ દરમિયાન ઉપયોગમાં લેવાતો એક સ્વાયત્ત AI એજન્ટ તેની નિયંત્રણ સિસ્ટમથી છટકી ગયો અને ઇન્ટરનેટ સુધી પહોંચી ગયો.
ત્યારપછી તેણે હગિંગ ફેસ નામની કંપનીની સિસ્ટમોને નિશાન બનાવી. OpenAIએ આ ઘટનાને અત્યાર સુધીની સૌથી મોટી AI સુરક્ષાને લગતી ઘટનાઓમાંની એક ગણાવી છે.
રિપોર્ટ અનુસાર, OpenAI તેના સૌથી અદ્યતન AI મોડેલ્સની સાયબર સુરક્ષા ક્ષમતાઓનું પરીક્ષણ કરી રહ્યું હતું. આ માટે, એક AI એજન્ટને નિયંત્રિત વાતાવરણ એટલે કે, સેન્ડબોક્સમાં મૂકવામાં આવ્યો હતો.
પરીક્ષણ દરમિયાન, આ એજન્ટ નિયંત્રણમાંથી છટકી ગયો અને ઇન્ટરનેટ સુધી પહોંચવામાં સફળ રહ્યો. ત્યારપછી તેણે હગિંગ ફેસની સિસ્ટમમાં પ્રવેશવાનો પ્રયાસ કર્યો અને થોડા સમય માટે ત્યાં સક્રિય પણ રહ્યો.
અહીં તમને જણાવી દઈએ કે, હગિંગ ફેસ એ વિશ્વના સૌથી મોટા આર્ટિફિશિયલ ઇન્ટેલિજેન્સ ગ્રુપમાનું એક છે. લાખો AI મોડેલ, ડેટાસેટ્સ અને વિકાસકર્તાઓ અહીં જોડાયેલા છે. તેથી, આ પ્લેટફોર્મ પરનો હુમલો સમગ્ર AI ઉદ્યોગ માટે એક મોટો મામલો માનવામાં આવી રહ્યો છે.
એક સમાચાર એજન્સીના અહેવાલ મુજબ, જુલાઈની શરૂઆતમાં AI એજન્ટે કંટ્રોલ સિસ્ટમમાંથી છટકી જવાનો પ્રયાસ કર્યો હતો. ત્યારપછી, 11થી 13 જુલાઈની વચ્ચે હગિંગ ફેસની સિસ્ટમમાં ઘૂસણખોરી કરવામાં આવી હતી.
નવાઈની વાત એ છે કે, OpenAI ઘણા દિવસો સુધી અજાણ રહ્યું કે તેના પોતાના જ AI એજન્ટે હુમલો કર્યો છે. ત્યાર પછી, તપાસ દરમિયાન, બંને કંપનીઓ વચ્ચે ચર્ચા શરૂ થઈ, અને ઘટનાની સંપૂર્ણ વિગતો પ્રકાશમાં આવી.
ઘણા લોકોને આશ્ચર્ય થયું છે કે, શું AIએ પોતાની જાતે હુમલો કર્યો હતો. આ પ્રશ્નનો જવાબ કંઈક અલગ છે.
OpenAI કહે છે કે, AI એજન્ટને સાયબર સુરક્ષા પરીક્ષણ માટે તૈયાર કરવામાં આવ્યો હતો. તેનો હેતુ નિર્ધારિત લક્ષ્ય સુધી પહોંચવાનો હતો. જો કે, પરીક્ષણ દરમિયાન, તેણે અપેક્ષા કરતાં વધુ ક્ષમતાઓ દર્શાવી અને નિયંત્રણ સિસ્ટમમાંથી છટકી જવા અને ઇન્ટરનેટનો ઉપયોગ કરવાનું શરૂ કર્યું.
કંપની કહે છે કે, આ સીધા માનવ આદેશને કારણે નથી થયું, પરંતુ પરીક્ષણ દરમિયાન સુરક્ષા સિસ્ટમમાં ખામીને કારણે થયું હતું.
Hugging Faceના CEO Clement DeLong એ આ ઘટના પછી OpenAI પાસેથી સંપૂર્ણ પારદર્શિતાની માંગ કરી છે. તેમનું કહેવું છે કે, સમગ્ર ઘટના જાહેર થવી જોઈએ, જેથી સંશોધકો સમજી શકે કે AI એજન્ટ કેવી રીતે કામ કરે છે. તેમણે AI સુરક્ષાને મજબૂત બનાવવા માટે વધુ સહયોગની પણ માંગ કરી છે.
આ ઘટનાએ AI સુરક્ષા અંગે ચર્ચાઓને વધુ વેગ આપ્યો છે. માઇક્રોસોફ્ટના AI વડા મુસ્તફા સુલેમાનએ તેને ભવિષ્ય માટે એક મોટી ચેતવણી ગણાવી છે. Nvidiaએ ઘણી મોટી ટેક કંપનીઓ સાથે મળીને ઓપન સિક્યોર AI એલાયન્સની રચનાની જાહેરાત કરી છે. આ એલાયન્સનો ધ્યેય AI સિસ્ટમોને વધુ સુરક્ષિત બનાવવાનો અને ભવિષ્યમાં આવી ઘટનાઓને રોકવાનો છે.
AI એજન્ટો હવે ઇન્ટરનેટ ઍક્સેસ કરી શકે છે, ફાઇલો ખોલી શકે છે, કોડ લખી શકે છે અને ઘણા કાર્યો પોતાની જાતે પુરા કરી શકે છે. આ જ કારણ છે કે, AI જેટલું શક્તિશાળી બને છે, તેની સુરક્ષાનો પડકાર પણ તેટલો જ મોટો થતો જાય છે.