കണ്ണിൽ വേദന, ചൊറിച്ചിൽ, ചുവപ്പ് നിറം എന്നിവ ഇന്ന് സാധാരണമായ ആരോഗ്യപ്രശ്നങ്ങളാണ്. നീണ്ട സമയം മൊബൈൽ ഫോണുകളിലും കമ്പ്യൂട്ടർ സ്ക്രീനുകളിലും നോക്കുന്നതിനാൽ ഉണ്ടാകുന്ന ഈ പ്രശ്നങ്ങൾ പലർക്കും പരിചിതമാണ്. മൊബൈൽ സ്ക്രീനുകളിൽ നിന്നുള്ള നീല വെളിച്ചം നിങ്ങളുടെ കാഴ്ചയെ മാത്രമല്ല, കണ്ണിന് ചുറ്റുമുള്ള സൗന്ദര്യത്തെയും ബാധിക്കുന്നുണ്ട്; കണ്പോളകളിലെ വീക്കത്തിനും കണ്ണിന് താഴെയുള്ള കടുത്ത കറുപ്പിനും (Dark Circles) ഇത് പ്രധാന കാരണമാകുന്നു.
ഇത്തരത്തിലുള്ള പ്രശ്നങ്ങൾ അനുഭവപ്പെടുമ്പോൾ പലരും ഇപ്പോൾ ഡോക്ടറെ കാണുന്നതിനുപകരം ചാറ്റ്ബോട്ടുകളോട് ചോദിക്കുന്നത് പതിവായി മാറിയിട്ടുണ്ട്. എന്നാൽ, കഴിഞ്ഞ ഏതാനും മാസങ്ങളായി ചാറ്റ്ബോട്ടുകളിൽ നിന്ന് ലഭിച്ച മറുപടികൾ ആരെയും ഞെട്ടിക്കുന്നതായിരുന്നു; വൈദ്യശാസ്ത്രത്തിന് പോലും അറിവില്ലാത്ത ‘ബിക്സോണിമാനിയ’ എന്ന വിചിത്രമായ ഒരു രോഗത്തെക്കുറിച്ചായിരുന്നു അവ!
യഥാർത്ഥത്തിൽ ‘ബിക്സോണിമാനിയ’ എന്നൊരു രോഗം വൈദ്യശാസ്ത്ര പുസ്തകങ്ങളിൽ എവിടെയും പറയുന്നില്ല! നിർമിത ബുദ്ധി (എ ഐ) എത്രത്തോളം അപകടകരമായി നമ്മെ തെറ്റിദ്ധരിപ്പിക്കുമെന്ന് തെളിയിക്കാൻ സ്വീഡനിലെ ഗോഥൻബർഗ് സർവകലാശാലയിലെ ഗവേഷകർ മനപ്പൂർവ്വം ചമച്ചെടുത്ത ഒരു 'കെണി' മാത്രമായിരുന്നു ഈ വാക്ക്. അൽമിറ ഒസ്മാനോവിച്ച് തുൻസ്ട്രോമിന്റെ നേതൃത്വത്തിലുള്ള സംഘം ഉന്നയിച്ച ചോദ്യം ലളിതമായിരുന്നു: ലോകത്തെ ഒരു ഡേറ്റബേസിലും ഇല്ലാത്ത ഒരു രോഗത്തെ വിശ്വസനീയമായ രീതിയിൽ അവതരിപ്പിക്കാൻ എഐക്ക് കഴിയുമോ? ആ പരീക്ഷണം വിജയിച്ചുവെന്ന് മാത്രമല്ല, ചാറ്റ്ബോട്ടുകൾ ഈ പച്ചക്കള്ളത്തെ അതിവിദഗ്ധമായി പ്രചരിപ്പിക്കാൻ തുടങ്ങിയെന്നതാണ് നമ്മെ ഭയപ്പെടുത്തേണ്ട യാഥാർത്ഥ്യം.
2024 മാർച്ച് 15 വരെ ലോകത്ത് ഒരിടത്തും കേട്ടിട്ടില്ലാത്ത ഒരു വാക്കായിരുന്നു ‘ബിക്സോണിമാനിയ’. എന്നാൽ വെറും ആഴ്ചകൾക്കുള്ളിൽ ഒരു വ്യാജ രോഗത്തെ എഐ എങ്ങനെ സത്യമാക്കി മാറ്റി എന്നത് ഞെട്ടിക്കുന്നതാണ്. ‘മീഡിയം’ എന്ന സൈറ്റിൽ വന്ന രണ്ട് ബ്ലോഗുകൾക്ക് പിന്നാലെ, ‘സൈപ്രൊഫൈൽസ്’ എന്ന അക്കാദമിക് നെറ്റ്വർക്കിൽ ഈ വ്യാജ രോഗത്തെക്കുറിച്ച് ഗവേഷണപ്രബന്ധങ്ങൾ പോലും അപ്ലോഡ് ചെയ്യപ്പെട്ടു!
ഈ പ്രബന്ധങ്ങളുടെ രചയിതാവായി അവതരിപ്പിക്കപ്പെട്ട ‘ലാസ്ലോജ് ഇവ്ഗുബ്ൽജെനോവിച്ച്’ എന്ന വ്യക്തി പോലും ഇല്ലാത്തയാളാണെന്നതാണ് വിചിത്രമായ വസ്തുത. എഐ ഉപയോഗിച്ച് നിർമ്മിച്ച വ്യാജ ചിത്രവും വ്യാജ പേരും ഉപയോഗിച്ച് സൃഷ്ടിക്കപ്പെട്ട ഈ ‘ഗവേഷകൻ’ നൽകിയ വിവരങ്ങൾ എഐ ലോകം കണ്ണടച്ച് വിശ്വസിച്ചു. ഇല്ലാത്ത ഒരാൾ ഇല്ലാത്ത രോഗത്തെക്കുറിച്ച് എഴുതിയ വിവരങ്ങളാണ് ഇന്ന് നിങ്ങളുടെ മൊബൈൽ സ്ക്രീനുകളിൽ ‘സത്യമായി’ പ്രത്യക്ഷപ്പെടുന്നത്.
ഏറ്റവും വിചിത്രമായ കാര്യം, ഈ ഗവേഷണ പ്രബന്ധങ്ങളിൽ തന്നെ ഇതൊരു ശുദ്ധ തട്ടിപ്പാണെന്നുള്ള നിരവധി സൂചനകൾ ഗവേഷകർ ഒളിച്ചുവെച്ചുവെന്നതാണ്. കാലിഫോർണിയയിലെ ‘ആസ്റ്റീരിയ ഹൊറൈസൺ’ എന്ന അസ്തിത്വമില്ലാത്ത സർവകലാശാലയുടെ പേരാണ് ഇതിനായി ഉപയോഗിച്ചത്. കൃത്രിമമായി ഉണ്ടാക്കിയ പ്രബന്ധത്തിന്റെ നന്ദിപ്രസ്താവനയിൽ ‘സ്റ്റാർഫ്ലീറ്റ് അക്കാദമി’, ‘യുഎസ്എസ് എന്റർപ്രൈസ്’, ‘ഫെലോഷിപ്പ് ഓഫ് ദി റിങ്’ തുടങ്ങിയ സിനിമകളിലെയും നോവലുകളിലെയും സാങ്കൽപ്പിക പേരുകൾ വരെ അവർ ഉൾപ്പെടുത്തി! ‘ഈ പഠനം മുഴുവൻ കെട്ടിച്ചമച്ചതാണ്’ എന്ന് പ്രബന്ധത്തിന്റെ തുടക്കത്തിൽ തന്നെ പച്ചയായി എഴുതിവെച്ചിട്ടും ചാറ്റ്ബോട്ടുകൾ അതൊന്നും തിരിച്ചറിഞ്ഞില്ല. കണ്ണടച്ച് വിവരങ്ങൾ വിശ്വസിക്കുന്ന എഐ സാങ്കേതികവിദ്യ ഇത്തരം പരിഹാസ്യമായ സൂചനകളെപ്പോലും ‘ഗൗരവമുള്ള ശാസ്ത്രസത്യങ്ങളായി’ ലോകത്തിന് മുന്നിൽ അവതരിപ്പിച്ചു.
ഈ വ്യാജ വിവരങ്ങൾ ഓൺലൈൻ ലോകത്ത് എത്തിയതോടെ പ്രമുഖ എഐ ചാറ്റ്ബോട്ടുകളെല്ലാം ഒന്നിനുപുറകെ ഒന്നായി ഈ കെണിയിൽ വീഴുന്ന കാഴ്ചയാണ് പിന്നീട് കണ്ടത്. 2024 ഏപ്രിൽ 13-ന് മൈക്രോസോഫ്റ്റിന്റെ കോപൈലറ്റ് (Copilot) ഇതിനെ 'അപൂർവ്വവും കൗതുകകരവുമായ ഒരു ആരോഗ്യപ്രശ്നം' എന്ന് വിശേഷിപ്പിച്ച് രംഗത്തെത്തി. അതേ ദിവസം തന്നെ ഗൂഗിളിന്റെ ജെമിനിയും (Gemini) വിട്ടുകൊടുത്തില്ല; നീല വെളിച്ചമേൽക്കുന്നത് കൊണ്ടാണ് ഈ രോഗം ഉണ്ടാകുന്നതെന്ന് യാതൊരു അടിസ്ഥാനവുമില്ലാതെ അത് സമർത്ഥിച്ചു.
ഏപ്രിൽ 27 ആയപ്പോഴേക്കും പെർപ്ലെക്സിറ്റി (Perplexity) ഒരുപടി കൂടി കടന്ന്, ലോകത്ത് 90,000-ൽ ഒരാൾക്ക് ഈ രോഗം ബാധിക്കുന്നുണ്ടെന്ന വ്യാജ കണക്കുവരെ പുറത്തുവിട്ടു! ചാറ്റ്ജിപിടിയും (ChatGPT) ഉപയോക്താക്കളുടെ ലക്ഷണങ്ങളെ ഈ സാങ്കൽപ്പിക രോഗവുമായി ബന്ധിപ്പിച്ചു മറുപടി നൽകിത്തുടങ്ങി.
എൽഎൽഎമ്മുകളുടെ പ്രവർത്തനത്തിലെ ഒരു പ്രധാന പ്രശ്നം, ചോദിക്കുന്ന ചോദ്യത്തിന്റെ രീതിയനുസരിച്ച് മറുപടി മാറുന്നതാണ്. “ബിക്സോണിമാനിയ എന്താണ്?” എന്ന് ചോദിക്കുമ്പോൾ അത് യഥാർത്ഥ രോഗമായി വിശദീകരിക്കപ്പെടാം. എന്നാൽ “ബിക്സോണിമാനിയ യഥാർത്ഥമാണോ?” എന്ന് ചോദിച്ചാൽ, അത് വ്യാജമാണെന്ന മറുപടിയും ലഭിക്കാം. ഇത് കൃത്രിമ ബുദ്ധി സംവിധാനങ്ങളുടെ വിശ്വാസ്യതയെക്കുറിച്ചുള്ള വലിയ സംശയങ്ങൾ ഉയർത്തുന്നു.
എഐ പടച്ചുവിട്ട ഈ കള്ളം വെറും ചാറ്റ്ബോട്ടുകളിൽ മാത്രം ഒതുങ്ങിനിന്നില്ല. അത് ഗൗരവമേറിയ വൈദ്യശാസ്ത്ര ഗവേഷണങ്ങളിലേക്കും പടർന്നുപിടിച്ചുവെന്നതാണ് ഏറ്റവും ഭയാനകമായ വസ്തുത. യഥാർത്ഥ ഉറവിടങ്ങൾ പരിശോധിക്കാതെ ചില ഗവേഷകർ ഈ വ്യാജ പ്രബന്ധത്തെ ആധികാരിക റഫറൻസായി ഉപയോഗിച്ചു. ഇതിൽ ഇന്ത്യയിലെ ഒരു പ്രമുഖ മെഡിക്കൽ സ്ഥാപനത്തിന്റെ പഠനവും ഉൾപ്പെട്ടിരുന്നു എന്നത് നമ്മെ അമ്പരപ്പിക്കും! 'ബിക്സോണിമാനിയ'യെ ഒരു യഥാർത്ഥ രോഗമായി കണ്ട് തയ്യാറാക്കിയ ആ പഠനം പിന്നീട് മെഡിക്കൽ ജേണലുകൾക്ക് പിൻവലിക്കേണ്ടി വന്നു. സാങ്കൽപ്പികമായ ഒരു രോഗത്തെ ശാസ്ത്രസത്യമെന്നോണം അവതരിപ്പിച്ചത് വഴി ആ ഗവേഷണത്തിന്റെ വിശ്വാസ്യത തന്നെ തകർന്നുവെന്ന് അധികൃതർക്ക് പരസ്യമായി സമ്മതിക്കേണ്ടി വന്നു. ശാസ്ത്രലോകത്തെപ്പോലും ഇത്ര എളുപ്പത്തിൽ തെറ്റിദ്ധരിപ്പിക്കാൻ എഐക്ക് കഴിയുമെങ്കിൽ, സാധാരണക്കാരായ നമ്മുടെ അവസ്ഥ എന്തായിരിക്കും?
ആരോഗ്യ വിവരങ്ങളിലെ തെറ്റിദ്ധാരണകൾ ഗുരുതരമായ പ്രത്യാഘാതങ്ങൾ ഉണ്ടാക്കുമെന്ന് വിദഗ്ധർ മുന്നറിയിപ്പ് നൽകുന്നു. “ഇത് തമാശയായി തോന്നിയേക്കാം, പക്ഷേ ശാസ്ത്രീയ സംവിധാനങ്ങൾ ഇത്തരം വിവരങ്ങളെ തിരിച്ചറിയാൻ കഴിയുന്നില്ലെങ്കിൽ അത് അപകടകരമാണ്,” ലണ്ടൻ യൂണിവേഴ്സിറ്റി കോളേജിലെ ഗവേഷകൻ അലക്സ് റുവാനി പറഞ്ഞു. പ്രൊഫഷണൽ രീതിയിൽ തയ്യാറാക്കിയ വിവരങ്ങൾ എൽഎൽഎമ്മുകൾ കൂടുതൽ വിശ്വസിക്കാൻ സാധ്യതയുണ്ടെന്നാണ് ഹാർവാർഡ് മെഡിക്കൽ സ്കൂളിലെ ഗവേഷകൻ മഹ്മൂദ് ഒമർ ചൂണ്ടിക്കാട്ടുന്നത്.
എഐ വികസിപ്പിക്കുന്ന കമ്പനികൾ ഈ പ്രശ്നത്തെ അംഗീകരിച്ചിട്ടുണ്ട്. ചാറ്റ്ബോട്ടുകൾ നൽകുന്ന മെഡിക്കൽ വിവരങ്ങൾ എല്ലായ്പ്പോഴും കൃത്യമാകണമെന്നില്ലെന്നും ആരോഗ്യപ്രശ്നങ്ങൾക്കായി ഡോക്ടറെ സമീപിക്കണമെന്നും അവർ ഉപയോക്താക്കളെ ഉപദേശിച്ചു. പഴയ പതിപ്പുകളുടെ പരിമിതികളാണ് ഇത്തരം പിഴവുകൾക്ക് കാരണമെന്നും പുതിയ മോഡലുകൾ കൂടുതൽ കൃത്യതയുള്ളതാണെന്നും കമ്പനികൾ അവകാശപ്പെടുന്നു.
ഈ പരീക്ഷണം ആരംഭിക്കുന്നതിന് മുമ്പ് തന്നെ ഗവേഷകർ ധാർമികത സംബന്ധിച്ച ആശങ്കകൾ പരിഗണിച്ചിരുന്നു. ശാസ്ത്രീയ സാഹിത്യത്തിൽ ഒരു വ്യാജ രോഗം ചേർക്കുന്നതിന്റെ അപകടസാധ്യത വിലയിരുത്തുകയും, കുറഞ്ഞ അപകടസാധ്യതയുള്ള വിഷയമാണ് തിരഞ്ഞെടുക്കുകയും ചെയ്തു. “ഈ പരീക്ഷണം ഗുണത്തേക്കാൾ ദോഷം ഉണ്ടാക്കുന്നില്ലെന്ന് ഉറപ്പാക്കാനാണ് ശ്രമിച്ചത്,” എന്ന് ഗവേഷകസംഘം വ്യക്തമാക്കി.
‘ബിക്സോണിമാനിയ’ സംഭവവികാസം എഐ പരിമിതികൾ വെളിപ്പെടുത്തുന്ന ഒരു പ്രധാന ഉദാഹരണമാണ്. വ്യാജ വിവരങ്ങൾ പോലും വിശ്വാസ്യതയോടെ പ്രചരിക്കാൻ കഴിയുന്ന സാഹചര്യത്തിൽ, ഓൺലൈൻ വിവരങ്ങൾ പരിശോധിച്ച് ഉറപ്പുവരുത്തേണ്ടത് അനിവാര്യമാണ്. പ്രത്യേകിച്ച് ആരോഗ്യവുമായി ബന്ധപ്പെട്ട കാര്യങ്ങളിൽ, വിദഗ്ധരുടെ ഉപദേശം തേടുന്നതാണ് സുരക്ഷിതമായ വഴി.
English Summary: A fake disease “Bixonimania” created in an experiment spread as real through AI chatbots, exposing risks of misinformation in health queries