AI: AI ને એ વિચાર સાથે વિકસાવવામાં આવ્યું હતું કે તે માણસો જે કહેશે તે મુજબ કરશે અને માણસના કામો આસાન થઈ જશે પરંતુ એક એવી વાત કે જેની વૈજ્ઞાનિકોએ અગાઉથી જ ચેતવણી આપી હતી કે જ્યાં સુધી માનવી કહે તે કરે ત્યાં સુધી બધું ઠીક છે પણ જો AI પોતાની રીતે ઓટો મેટિક વિચારવાની, સમજવાની અને નિર્ણય લેવાની ક્ષમતા કેળવી લેશે તો તે પછી તે માણસોનું સાંભળશે નહીં અને માણસના કન્ટ્રોલ બહાર થઈ જશે ત્યારે તેના ભયાનક પરિણામો પણ આવી શકે છે અને હવે વૈજ્ઞાનિકોની આ ચેતવણી સાચી પડતી દેખાય છે. તાજેતરમાં, એક નવા સંશોધનમાં આવો એક કિસ્સો પ્રકાશમાં આવ્યો છે કે વૈજ્ઞાનિકો ચોંકી ઉઠ્યા છે, જેમાં AI ની ક્ષમતા અને નિયંત્રણ વિશે નવા પડકારો ઉભા થયા છે.
હકીકતમાં, એક AI એજન્ટને તાલીમ આપતી વખતે સંશોધકોએ જોયું કે સિસ્ટમ પોતાની જાતે ક્રિપ્ટોકરન્સી માઇનિંગ શરૂ કરવાનો પ્રયાસ કરી રહી હતી અને આ આશ્ચર્યજનક હતું કારણ કે કોઈ સંશોધકે તેને આવું કરવાની સૂચના આપી ન હતી તેમછતાં તે પોતાની રીતે ઓટોમેટિક તે કામ કરતો હતો આ જોઈ વૈજ્ઞાનિકો ચોંકી ઉઠ્યા હતા.
■ અલીબાબા સાથે સંકળાયેલી એક સંશોધન ટીમ એક પ્રયોગ કરી રહી હતી.
આ ઘટના ત્યારે બની જ્યારે અલીબાબા સાથે જોડાયેલી એક સંશોધન ટીમ ROME નામના પ્રાયોગિક AI એજન્ટ પર કામ કરી રહી હતી. તાલીમ દરમિયાન, સુરક્ષા પ્રણાલીઓ અચાનક સક્રિય થઈ ગઈ, જેના કારણે ટીમ સિસ્ટમની પ્રવૃત્તિઓની તપાસ કરવા માટે પ્રેરાઈ હતી.તપાસમાં જાણવા મળ્યું કે AI એજન્ટ ક્રિપ્ટોકરન્સી માઇનિંગ સંબંધિત પ્રક્રિયા શરૂ કરવાનો પ્રયાસ કરી રહ્યો હતો. આ પ્રવૃત્તિ અસામાન્ય હતી કારણ કે સિસ્ટમ મર્યાદિત અને નિયંત્રિત વાતાવરણમાં ચલાવવામાં આવી રહી હતી, જેને “સેન્ડબોક્સ” કહેવાય છે. સંશોધન પત્રમાં, વૈજ્ઞાનિકોએ આ વર્તનને “અનપેક્ષિત” ગણાવ્યું અને કહ્યું કે આ પ્રવૃત્તિ કોઈપણ સ્પષ્ટ સૂચનાઓ વિના પોતાની રીતે શરૂ થઈ હતી.
■ AIએ સૂચનાઓ વિના રિવર્સ SSH ટનલ બનાવી
માત્ર ક્રિપ્ટો માઇનિંગ જ નહીં, AI એજન્ટે બીજી એક તકનીકી ચાલ પણ કરી જેણે સંશોધકોની ચિંતા વધારી. સિસ્ટમે પોતાના પર રિવર્સ SSH ટનલ પણ બનાવી. આ એક તકનીકી પદ્ધતિ છે જે સુરક્ષિત અથવા પ્રતિબંધિત નેટવર્કમાં મશીનને બાહ્ય કમ્પ્યુટર સાથે કનેક્ટ કરવાની મંજૂરી આપે છે. આ જોડાણ ઘણીવાર છુપાયેલા માર્ગ તરીકે કાર્ય કરે છે. રિપોર્ટમાં સ્પષ્ટપણે જણાવાયું છે કે AI ને માઇનિંગ અથવા ટનલ બનાવવા માટે કોઈ સંકેતો અથવા સૂચનાઓ આપવામાં આવી ન હતી છતાં તે પોતાની રીતે એટલે કે સ્વતંત્ર રીતે કામ કરતું હતું.
■ ચિંતામાં વધારો કેમ?
ક્રિપ્ટોકરન્સી માઇનિંગ સામાન્ય રીતે કમ્પ્યુટરની પ્રોસેસિંગ પાવરનો ઉપયોગ કરીને ડિજિટલ ચલણ બનાવવાની પ્રક્રિયા છે. આ સામાન્ય રીતે સિસ્ટમ એડમિનિસ્ટ્રેટર્સ દ્વારા ઇરાદાપૂર્વક સેટ કરવામાં આવે છે. જો કે, આ કિસ્સામાં, AI એજન્ટે તાલીમ દરમિયાન આ પ્રક્રિયાને પોતાની જાતે શરૂ કરવાનો પ્રયાસ કર્યો. આનાથી ભવિષ્યમાં અદ્યતન AI સિસ્ટમો વધુ સ્વાયત્ત બની શકે છે કે કેમ તે અંગે પ્રશ્નો ઉભા થાય છે, ખાસ કરીને કારણ કે તેઓ વધુ સાધનો અને કમ્પ્યુટિંગ સંસાધનોની ઍક્સેસ મેળવે છે.
■અગાઉ પણ આવી ઘટનાઓ બની ચૂકી છે
આ ઘટના એવા સમયે બની છે જ્યારે AI એજન્ટો વધુને વધુ સક્ષમ બની રહ્યા છે. ઘણી સિસ્ટમો હવે કોડ પણ લખી શકે છે, જટિલ વર્કફ્લોને સ્વચાલિત કરી શકે છે અને વિવિધ ઓનલાઈન ટૂલ્સ સાથે કામ કરી શકે છે. નિષ્ણાતો માને છે કે જેમ જેમ AI ની ક્ષમતાઓ વધે છે, તેમ તેમ પરીક્ષણ દરમિયાન અણધાર્યા વર્તનની શક્યતા પણ વધી શકે છે.
આવી ઘટનાઓ અગાઉ પણ નોંધાઈ ચૂકી છે. મોલ્ટબુક પ્રયોગ નામના પ્રયોગમાં, AI એજન્ટોને સોશિયલ નેટવર્ક જેવી ડિજિટલ દુનિયામાં મૂકવામાં આવ્યા હતા, જ્યાં તેઓ એકબીજા સાથે વાતચીત કરતા હતા. તે સમય દરમિયાન પણ, એજન્ટોએ ક્રિપ્ટોકરન્સીનો ઉલ્લેખ કર્યો હતો.એ જ રીતે, AI ઇન્ટિગ્રેશન પ્લેટફોર્મ એનનના એન્જિનિયરિંગ વડા ડેન બોટેરોએ અહેવાલ આપ્યો કે તેમના OpenClaw એજન્ટે પૂછ્યા વિના ઓનલાઇન નોકરીઓ શોધવાનું શરૂ કર્યું.
■ AI વર્તણૂક વિશે વધતી જતી ચર્ચા
મે 2025 માં જ્યારે એન્થ્રોપિકના ક્લાઉડ મોડેલ પર કામ કરતા સંશોધકોએ દાવો કર્યો કે ક્લાઉડ 4 ઓપસ સિસ્ટમે તેના ઇરાદાઓને છુપાવવાની અને સક્રિય રહેવાની ક્ષમતા દર્શાવી છે ત્યારે બીજો વિવાદ ઉભો થયો.ROME પ્રયોગમાં બહાર આવેલ નવો કિસ્સો એ યાદ અપાવે છે કે જેમ જેમ AI સિસ્ટમો વધુ શક્તિશાળી બનશે, તેમ તેમ તેમનું નિરીક્ષણ અને નિયંત્રણ વધુને વધુ મહત્વપૂર્ણ બનશે.વૈજ્ઞાનિકોને જે ડર હતો તે હવે સાચો પડતો જણાઈ રહ્યો છે અને AI હવે વધુ શક્તિશાળી બની ગયું છે અને તે પોતાની રીતે કામ કરી રહ્યું છે જે માણસના કન્ટ્રોલ બહાર જઈ રહ્યું છે તેના સારા અને ભયાનક પરિણામો પણ આવી શકે છે.
આ પણ વાંચો:
OIC: “ઇસ્લામિક વર્લ્ડ” એકજ ઝાટકે ખતમ; ઈઝરાયેલ-અમેરિકા સામે 57 દેશોનું સંગઠન “કાગનો વાઘ” સાબિત થયુ!
