ഗൂഗിള് എര്ത്തിലെ ഉപഗ്രഹ ചിത്രങ്ങള്ക്ക് മുകളില് കൃത്രിമ ചിത്രങ്ങള് നിര്മ്മിക്കാന് സഹായിക്കുന്ന പുതിയ നിര്മ്മിത ബുദ്ധി (എഐ) ഫീച്ചര് കമ്പനി താല്ക്കാലികമായി പിന്വലിച്ചു. വ്യാജ സന്ദേശങ്ങളും തെറ്റായ വിവരങ്ങളും പ്രചരിക്കാന് ഇത് ഇടയാക്കുമെന്ന വിദഗ്ദ്ധരുടെ മുന്നറിയിപ്പുകളെ തുടര്ന്നാണ് ഗൂഗിളിന്റെ ഈ അടിയന്തര നടപടി. തങ്ങളുടെ എഐ ഇമേജ് ജനറേറ്ററായ 'നാനോ ബനാന 2' ഗൂഗിള് എര്ത്തുമായി സംയോജിപ്പിക്കുന്നതായി പ്രഖ്യാപിച്ച് 48 മണിക്കൂറിനുള്ളില് തന്നെ ഫീച്ചര് താല്ക്കാലികമായി നിര്ത്തിവെക്കുകയാണെന്ന് കമ്പനി അറിയിച്ചു. ശക്തമായ സുരക്ഷാ മാനദണ്ഡങ്ങള് നടപ്പാക്കിയ ശേഷമേ ഇനി ഈ ഫീച്ചര് ലഭ്യമാക്കൂ. തങ്ങളുടെ പോളിസികള്ക്ക് വിരുദ്ധമായ രീതിയില് നിര്മ്മിച്ച ചിത്രങ്ങളുടെ സ്ക്രീന്ഷോട്ടുകള് ആളുകള് പങ്കുവെക്കുന്നത് ശ്രദ്ധയില്പ്പെട്ടിട്ടുണ്ടെന്ന് ഗൂഗിള് വ്യക്തമാക്കി.
വ്യാജ ചിത്രങ്ങള് അനായാസം നിര്മ്മിക്കാം
ഗൂഗിള് എര്ത്തിലെ യഥാര്ത്ഥ ഉപഗ്രഹ ചിത്രങ്ങള്, 3ഡി ഇമേജുകള് എന്നിവയ്ക്ക് മുകളില് ടെക്സ്റ്റ് പ്രോംപ്റ്റുകള് നല്കി വ്യാജ സാഹചര്യങ്ങള് സൃഷ്ടിക്കാനും അവ ഡൗണ്ലോഡ് ചെയ്ത് മറ്റ് പ്ലാറ്റ്ഫോമുകളില് പങ്കുവെക്കാനും ഈ ടൂളിലൂടെ സാധിച്ചിരുന്നു. തകര്ന്നുവീണ പാരീസിലെ ഈഫല് ടവര്, ഈജിപ്തിലെ ഗിസ പിരമിഡിനെ വിഴുങ്ങുന്ന കൂറ്റന് ഗര്ത്തം, ഉക്രെയ്ന് തലസ്ഥാനത്ത് റഷ്യന് ടാങ്കുകള് നിലയുറപ്പിച്ചിരിക്കുന്നത്, ഇറാനിലെ ഇല്ലാത്ത അണുശക്തി നിലയം, യുഎസ്-മെക്സിക്കോ അതിര്ത്തിയിലെ അഭയാര്ത്ഥി ക്യാമ്പ്, ഗാസയില് ബോംബാക്രമണത്തില് തകര്ന്ന ആശുപത്രി തുടങ്ങിയ ഭീതിജനകമായ വ്യാജ ചിത്രങ്ങള് ഈ ഫീച്ചര് ഉപയോഗിച്ച് നിര്മിക്കാന് കഴിഞ്ഞതായി എഐ വിദഗ്ദ്ധനായ ഹെങ്ക് വാന് എസ് ചൂണ്ടിക്കാട്ടി.
'കൃത്യമായ ഭൂമിശാസ്ത്രപരമായ ലൊക്കേഷനുകളില് അസത്യമായ ചിത്രങ്ങള് കൂട്ടിച്ചേര്ക്കുകയാണ് ഗൂഗിള് ചെയ്തത്. വ്യാജ ചിത്രം ഒറ്റനോട്ടത്തില് യഥാര്ത്ഥമാണെന്ന് തോന്നണമെന്നില്ല, പക്ഷേ അത് കാണുന്നത് ഗൂഗിള് മാപ്പിലായതുകൊണ്ട് തന്നെ ആളുകള് വിശ്വസിച്ചുപോകും,' ഹെങ്ക് വാന് എസ് മുന്നറിയിപ്പ് നല്കി.
സുരക്ഷാ സംവിധാനങ്ങളിലെ പോരായ്മകള്
തങ്ങളുടെ ടൂളുകള് വഴി നിര്മ്മിക്കുന്ന എഐ ചിത്രങ്ങളില് അവ വ്യാജമാണെന്ന് തിരിച്ചറിയാന് വാട്ടര്മാര്ക്കുകള് ഉള്പ്പെടുത്തിയിട്ടുണ്ടെന്നാണ് ഗൂഗിള് അവകാശപ്പെടുന്നത്. ഗൂഗിള് ലെന്സ് വഴിയോ ജെമിനി ചാറ്റ്ബോട്ട് വഴിയോ ചിത്രങ്ങളുടെ സത്യാവസ്ഥ പരിശോധിക്കാമെന്നും കമ്പനി പറയുന്നു. എന്നാല് ഈ സുരക്ഷാ പരിശോധനകളെ മറികടന്ന് വ്യാജ ചിത്രങ്ങള് യഥാര്ത്ഥമാണെന്ന് ജെമിനിയെക്കൊണ്ട് തെറ്റിദ്ധരിപ്പിക്കാന് സാധിക്കുമെന്ന് ബിബിസി റിപ്പോര്ട്ട് ചെയ്യുന്നു. കൂടാതെ, മറ്റ് പ്രമുഖ എഐ ഡിറ്റക്ഷന് ടൂളുകള്ക്കും ഇത്തരം ചിത്രങ്ങള് തിരിച്ചറിയാന് സാധിച്ചില്ല.
വര്ഗീയ-യുദ്ധ മേഖലകളില് ഇത്തരം വ്യാജ ചിത്രങ്ങള് പ്രചരിക്കുന്നത് സ്ഥിതിഗതികള് കൂടുതല് സങ്കീര്ണ്ണമാക്കുമെന്ന് എഐ ഗവേഷകനായ ഹെന്റി ആജ്ഡര് പറഞ്ഞു. അപകടകരമായ ആശയങ്ങള് അടങ്ങിയ ചിത്രങ്ങള് നിര്മ്മിക്കുന്നത് തടയാന് എഐ മോഡലില് സുരക്ഷാ മാനദണ്ഡങ്ങള് ഉണ്ടെന്നായിരുന്നു ഗൂഗിളിന്റെ ആദ്യ വാദം. എന്നാല് വാക്കുകളില് ചെറിയ മാറ്റങ്ങള് വരുത്തി പ്രോംപ്റ്റുകള് നല്കുമ്പോള് ഈ സുരക്ഷാ സംവിധാനങ്ങള് പരാജയപ്പെടുന്നതായി കണ്ടെത്തി.
വിശ്വസനീയത തകരുന്നു
പൊതുജനങ്ങള്ക്ക് സൗജന്യമായി ഉപഗ്രഹ ചിത്രങ്ങള് ലഭ്യമാകുന്ന പ്രധാന സ്രോതസ്സാണ് ഗൂഗിള് എര്ത്ത്. ചരിത്രപരമായി ഏറെ വിശ്വസനീയമായി കരുതപ്പെടുന്ന ഉപഗ്രഹ ചിത്രങ്ങളില് എഐ ഉപയോഗിച്ച് കൃത്രിമം കാണിക്കാന് വഴിയൊരുക്കുന്നത് പൊതുജനങ്ങള്ക്ക് വിവരങ്ങളിലുള്ള വിശ്വാസ്യത തകര്ക്കുമെന്ന് ജിയോസ്പേഷ്യല് അനലിസ്റ്റായ ബില് ഗ്രീര് അഭിപ്രായപ്പെട്ടു. അതിവേഗം മാറിക്കൊണ്ടിരിക്കുന്ന ഒരു വിവരലോകത്ത്, സത്യാവസ്ഥ അറിയാന് മാധ്യമപ്രവര്ത്തകര് അടക്കം ആശ്രയിക്കുന്ന അവസാനത്തെ വിശ്വസനീയ ഇടങ്ങളും എഐ തകര്ത്തുകൊണ്ടിരിക്കുകയാണെന്ന് വിദഗ്ദ്ധര് ആശങ്ക പ്രകടിപ്പിക്കുന്നു.
Google has temporarily withdrawn its new AI-powered Earth feature that allowed users to generate artificial images on top of Google Earth satellite imagery after experts warned it could fuel misinformation. The feature, integrated with Google's AI image generator, enabled users to create realistic but fictional scenes using text prompts at real-world locations. Researchers demonstrated how the tool could generate misleading images depicting disasters, wars and other fabricated events. Although Google said AI-generated images include invisible watermarks and can be verified using Google Lens and Gemini, security researchers found these safeguards could be bypassed. The company said it will reintroduce the feature only after implementing stronger safety measures to prevent misuse and protect public trust in satellite imagery.