എ.ഐ സാങ്കേതികവിദ്യയുടെ വികസനം അനിയന്ത്രിതമായി മുന്നോട്ടുപോയാല്‍ മനുഷ്യരാശിയുടെ നിലനില്‍പ്പ് തന്നെ അപകടത്തിലാകുമെന്നും അത് വംശനാശത്തിലേക്ക് നയിച്ചേക്കാമെന്നും ആന്ത്രോപികിലെ മുന്‍ ഗവേഷകനായ ജേക്കബ് കോക്സണ്‍ മുന്നറിയിപ്പ് നല്‍കുന്നു. ന്യൂയോര്‍ക്ക് സിറ്റി കൗണ്‍സില്‍ സംഘടിപ്പിച്ച പ്രത്യേക ഹിയറിംഗില്‍ സംസാരിക്കവേയാണ് പ്രമുഖ എഐ വികസന കമ്പനികളുടെ അശ്രദ്ധമായ സമീപനത്തെക്കുറിച്ച് അദ്ദേഹം കടുത്ത ആശങ്കകള്‍ പങ്കുവെച്ചത്.
അനിയന്ത്രിതമായ എഐയും 'സ്റ്റാര്‍ട്ടപ്പ്' മനോഭാവവും
എഐ സാങ്കേതികവിദ്യക്ക് മേലുള്ള നിയന്ത്രണം മനുഷ്യന് നഷ്ടപ്പെടാനുള്ള സാധ്യത വളരെ കൂടുതലാണെന്ന് കോക്സണ്‍ ചൂണ്ടിക്കാട്ടി. ഒരു സാധാരണ സോഫ്റ്റ്വെയറോ ഫോട്ടോ പങ്കിടല്‍ ആപ്പോ നിര്‍മ്മിക്കുന്ന രീതിയിലാണ് കമ്പനികള്‍ എഐ സാങ്കേതികവിദ്യയും വികസിപ്പിക്കുന്നത്. 'വേഗത്തില്‍ നിര്‍മ്മിക്കുക, തകരാറുകള്‍ വരുത്തുക, അത് പിന്നീട് പരിഹരിക്കുക' എന്ന സ്റ്റാര്‍ട്ടപ്പ് സംസ്‌കാരം ലോകത്തിലെ ഏറ്റവും ശക്തമായ ഒരു സാങ്കേതികവിദ്യയില്‍ പ്രയോഗിക്കുന്നത് അങ്ങേയറ്റം അപകടകരമാണെന്ന് അദ്ദേഹം പറഞ്ഞു.
നിലവില്‍ ഒരു എഐ സിസ്റ്റത്തെയും പൂര്‍ണ്ണമായി നിയന്ത്രിക്കാനുള്ള സാങ്കേതികവിദ്യ നമ്മുടെ പക്കലില്ല. ഹ്രസ്വകാലത്തേക്ക് 'കില്‍ സ്വിച്ച്' പോലുള്ള സംവിധാനങ്ങള്‍ ഉപയോഗിക്കാമെങ്കിലും ദീര്‍ഘകാല സുരക്ഷ ഉറപ്പാക്കാന്‍ ഇത് പര്യാപ്തമല്ല. നൂറുകണക്കിന് റോഗ് ഓപ്പണ്‍എഐ ഏജന്റുകള്‍ അമേരിക്കന്‍ കമ്പനിയെ ഹാക്ക് ചെയ്യാന്‍ ശ്രമിച്ച സംഭവം ഉദാഹരണമായി ചൂണ്ടിക്കാണിച്ച അദ്ദേഹം, മനുഷ്യര്‍ ഉദ്ദേശിക്കാത്ത ലക്ഷ്യങ്ങള്‍ എഐ സ്വയം വികസിപ്പിച്ചെടുക്കുന്നത് തടയാന്‍ ഇപ്പോഴും കൃത്യമായ വഴികളില്ലെന്ന് വ്യക്തമാക്കി.
വിനാശകരമായ അപകടസാധ്യതയും വലിയ സാധ്യതകളും
സാങ്കേതികവിദ്യ കൃത്യമായ സുരക്ഷാ മാനദണ്ഡങ്ങളോടെയും ഉത്തരവാദിത്തത്തോടെയും ഉപയോഗിക്കുകയാണെങ്കില്‍ വൈദ്യശാസ്ത്രം, ശാസ്ത്രം, സാമ്പത്തിക മേഖല എന്നിവയില്‍ വിപ്ലവാത്മകമായ മാറ്റങ്ങള്‍ കൊണ്ടുവരാന്‍ എഐക്ക് കഴിയും. എന്നാല്‍, ഇപ്പോള്‍ പുലര്‍ത്തുന്ന അശ്രദ്ധമായ സമീപനം തുടരുകയാണെങ്കില്‍, ഭാവിയില്‍ അതിനേക്കാള്‍ ശേഷിയുള്ള എഐ സിസ്റ്റങ്ങള്‍ ഉണ്ടാകുമ്പോള്‍ അത് വന്‍ ദുരന്തത്തിലേക്ക് നയിക്കുമെന്ന് അദ്ദേഹം കൂട്ടിച്ചേര്‍ത്തു. 'ഈ പതിറ്റാണ്ടിന്റെ അവസാനത്തോടെ എഐ നമ്മെയെല്ലാം ഇല്ലാതാക്കിയേക്കാം എന്ന് ഇത് വികസിപ്പിക്കുന്നവര്‍ പോലും ആത്മാര്‍ത്ഥമായി വിശ്വസിക്കുന്നുണ്ട്', ജേക്കബ് കോക്സണ്‍ പറഞ്ഞു.
നിയന്ത്രണങ്ങളും ആഗോള ചര്‍ച്ചകളും
ന്യൂയോര്‍ക്ക് സിറ്റി കൗണ്‍സില്‍ ഹിയറിംഗില്‍ ഓപ്പണ്‍എഐ, ആന്ത്രോപിക്, ഗൂഗിള്‍, മെറ്റാ എന്നീ പ്രമുഖ കമ്പനികളുടെ പ്രതിനിധികളും പങ്കെടുത്തു. എഐ സംവിധാനങ്ങള്‍ പുറത്തിറക്കുന്നതിന് മുന്‍പ് മൂന്നാം കക്ഷി പരിശോധന, വിസില്‍ബ്ലോവര്‍മാര്‍ക്കുള്ള സംരക്ഷണം, എഐ വരുത്തുന്ന നഷ്ടങ്ങള്‍ക്ക് കമ്പനിക്കെതിരെ നിയമനടപടി സ്വീകരിക്കാനുള്ള അവകാശം എന്നിവ ഉള്‍പ്പെടെയുള്ള സുരക്ഷാ മാനദണ്ഡങ്ങളാണ് കൗണ്‍സില്‍ ചര്‍ച്ച ചെയ്യുന്നത്. അതേസമയം, എഐ നിയന്ത്രണങ്ങളെച്ചൊല്ലി പ്രമുഖ കമ്പനികള്‍ക്കിടയില്‍ അഭിപ്രായ വ്യത്യാസം നിലനില്‍ക്കുന്നുണ്ട്. ഓപ്പണ്‍എഐ, ആന്ത്രോപിക് എന്നിവ നിയന്ത്രണങ്ങളെ പിന്തുണയ്ക്കുമ്പോള്‍ മെറ്റാ സിഇഒ മാര്‍ക്ക് സക്കര്‍ബര്‍ഗ് ഇതിനെ എതിര്‍ക്കുന്നു.
Former Anthropic and OpenAI researcher Jacob Coxon has warned that humanity could eventually lose control of increasingly powerful artificial intelligence systems if AI development continues without adequate safety measures. Speaking at a New York City Council hearing on October 5, Coxon criticised the technology industry's “move fast, break things” approach, arguing that a development model suitable for ordinary software cannot safely be applied to increasingly powerful AI systems.