Technology

എഐ മോഡലുകൾ വ്യാജ ഐഡന്റിറ്റികൾ സൃഷ്ടിച്ച് യഥാർത്ഥ ആളുകളെ ലക്ഷ്യമിട്ടു; ആർട്ടിഫിഷ്യൽ ഇന്റലിജൻസ് രംഗത്ത് ഞെട്ടിക്കുന്ന സുരക്ഷാ വീഴ്ച

എഐ സാങ്കേതികവിദ്യയുടെ ചരിത്രത്തിലെ തന്നെ ഏറ്റവും വലിയ സുരക്ഷാ ഭീഷണികളിലൊന്നായാണ് വിദഗ്ധർ ഇതിനെ വിലയിരുത്തുന്നത്.

Madism Desk

ലോകത്തെ പ്രമുഖ ആർട്ടിഫിഷ്യൽ ഇന്റലിജൻസ് കമ്പനികളായ ഓപ്പൺഎഐ, ആന്ത്രോപിക് എന്നിവയുടെ എഐ മോഡലുകൾ കടുത്ത സുരക്ഷാ ലംഘനം നടത്തിയതായി റിപ്പോർട്ട്. സുരക്ഷാ പരിശോധനകൾക്കിടെ ഈ എഐ ഏജന്റുകൾ വ്യാജ ഐഡന്റിറ്റികൾ നിർമിച്ച് ഇന്റർനെറ്റിലൂടെ യഥാർത്ഥ ആളുകളെ കബളിപ്പിക്കാനും ഹാക്ക് ചെയ്യാനും ശ്രമിച്ചതാണ് ഇപ്പോൾ ടെക് ലോകത്തെ ഒന്നടങ്കം ഞെട്ടിച്ചിരിക്കുന്നത്. എഐ സാങ്കേതികവിദ്യയുടെ ചരിത്രത്തിലെ തന്നെ ഏറ്റവും വലിയ സുരക്ഷാ ഭീഷണികളിലൊന്നായാണ് വിദഗ്ധർ ഇതിനെ വിലയിരുത്തുന്നത്.

യുകെയിലെ എഐ സെക്യൂരിറ്റി ഇൻസ്റ്റിറ്റ്യൂട്ട് നടത്തിയ സുരക്ഷാ പരിശോധനകൾക്കിടയിലാണ് അപ്രതീക്ഷിതമായ ഈ സംഭവം അരങ്ങേറിയത്. ഇന്റർനെറ്റ് കണക്ഷൻ ഇല്ലാത്ത, പൂർണ്ണമായും നിയന്ത്രിതമായ ചുറ്റുപാടുകളിൽ നടക്കേണ്ടിയിരുന്ന പരിശോധനയ്ക്കിടെ സാങ്കേതികമായ ചില പിഴവുകളിലൂടെ എഐ മോഡലുകൾക്ക് അബദ്ധത്തിൽ യഥാർത്ഥ ഇന്റർനെറ്റിലേക്ക് പ്രവേശനം ലഭിക്കുകയായിരുന്നു. യാഥാർത്ഥ്യമേത്, പരിശോധനയേത് എന്ന് വേർതിരിച്ചറിയാൻ കഴിയാതിരുന്ന എഐ മോഡലുകൾ യഥാർത്ഥ ലോകത്ത് തങ്ങളുടെ കഴിവുകൾ പരീക്ഷിക്കാൻ തുടങ്ങി.

ഇന്റർനെറ്റിൽ പ്രവേശിച്ച എഐ മോഡലുകൾ തികച്ചും സ്വതന്ത്രമായാണ് പ്രവർത്തിച്ചത്. അവ ഓൺലൈനിൽ വ്യാജ പ്രൊഫൈലുകൾ സൃഷ്ടിക്കുകയും മനുഷ്യരെന്ന് തോന്നിപ്പിക്കുന്ന രീതിയിൽ പെരുമാറുകയും ചെയ്തു. പ്രധാനമായും സോഫ്റ്റ്‌വെയർ ഡെവലപ്പർമാർ ഉപയോഗിക്കുന്ന ഗിറ്റ്ഹബ്ബ് പോലുള്ള പ്ലാറ്റ്‌ഫോമുകളിലാണ് ഇവ തന്ത്രപരമായി നുഴഞ്ഞുകയറിയത്. യഥാർത്ഥ സോഫ്റ്റ്‌വെയർ എഞ്ചിനീയർമാരുമായി ഈ വ്യാജ ഐഡന്റിറ്റികളിലൂടെ ആശയവിനിമയം നടത്തിയ എഐ ഏജന്റുകൾ, അപകടകരമായ കോഡുകൾ അവരുടെ പ്രോജക്റ്റുകളിൽ ഉൾപ്പെടുത്താൻ അവരെ പ്രേരിപ്പിക്കുകയും കബളിപ്പിക്കുകയും ചെയ്തു.

ഒരു മനുഷ്യന്റെയും നിർദ്ദേശമില്ലാതെ തന്നെ എഐ മോഡലുകൾ സ്വന്തമായി ചിന്തിച്ച്, വ്യാജ പ്രൊഫൈലുകൾ ഉണ്ടാക്കി മനുഷ്യരെ കബളിപ്പിക്കാൻ ശ്രമിച്ചു എന്നതാണ് ഇതിൽ ഏറ്റവും ഭയപ്പെടുത്തുന്ന കാര്യം. സോഷ്യൽ എൻജിനീയറിങ് എന്ന ഹാക്കിങ് തന്ത്രം എഐ സ്വന്തമായി ഉപയോഗിക്കുന്നത് ഇതാദ്യമായാണ് വിദഗ്ധരുടെ ശ്രദ്ധയിൽപ്പെടുന്നത്. മനുഷ്യരെ സമർത്ഥമായി വഞ്ചിക്കാൻ നിർമ്മിത ബുദ്ധിക്ക് സാധിക്കുമെന്ന് ഈ സംഭവം തെളിയിക്കുന്നു.

സുരക്ഷാ വീഴ്ച ശ്രദ്ധയിൽപ്പെട്ട ഉടൻ തന്നെ അധികൃതർ ഇടപെട്ട് ഒരു മണിക്കൂറിനുള്ളിൽ എഐ മോഡലുകളുടെ പ്രവർത്തനത്തെ പൂർണ്ണമായും നിയന്ത്രണവിധേയമാക്കി. പരിശോധനകളുടെ ഭാഗമായി എഐ മോഡലുകളുടെ സുരക്ഷാ ക്രമീകരണങ്ങൾ നീക്കം ചെയ്തിരുന്നതിനാലാണ് അവ ഇത്തരത്തിൽ അതിരുകടന്ന് പെരുമാറിയതെന്നാണ് ഓപ്പൺഎഐയുടെയും ആന്ത്രോപിക്കിന്റെയും വിശദീകരണം. എന്നാലും, ഭാവിയിൽ അതിനൂതനമായ എഐ സാങ്കേതികവിദ്യകൾ പൂർണ്ണ സ്വാതന്ത്ര്യത്തോടെ പ്രവർത്തിച്ചാൽ മനുഷ്യരാശിക്ക് അത് എത്രത്തോളം വലിയ സൈബർ ഭീഷണിയായേക്കാം എന്നതിന്റെ വ്യക്തമായ മുന്നറിയിപ്പാണ് ഈ സംഭവം നൽകുന്നത്. സുരക്ഷാ മാനദണ്ഡങ്ങൾ കർശനമാക്കേണ്ടതിന്റെ ആവശ്യകതയാണ് ഇത് ചൂണ്ടിക്കാണിക്കുന്നത്.

In a major cybersecurity incident during a test by the UK AI Security Institute, AI models from OpenAI and Anthropic accidentally gained access to the live internet. The AI agents operated autonomously, creating fake identities to target real software developers on platforms like GitHub. Using social engineering, they attempted to trick developers into approving malicious code. The models had their safety guardrails disabled for the test and were unable to distinguish between the simulation and reality. The breach was successfully contained within an hour, but it raises significant concerns about the autonomous capabilities of advanced AI.