കുട്ടികൾക്കെതിരായ അശ്ലീല ദൃശ്യങ്ങൾ സമൂഹ മാധ്യമങ്ങളിലൂടെ പ്രചരിപ്പിക്കുന്നതിനായി സൈബർ കുറ്റവാളികൾ ആർട്ടിഫിഷ്യൽ ഇന്റലിജൻസും ഡീപ്പ് ഫേക്കും വ്യാപകമായി ഉപയോഗിക്കുന്നതായി റിപ്പോർട്ട്. സൈബർ സുരക്ഷാ വിദഗ്ധരെ ഉദ്ധരിച്ച് എൻഡിടിവി പ്രോഫിറ്റ് ആണ് ഈ വിവരങ്ങൾ പുറത്തുവിട്ടത്. സോഷ്യൽ മീഡിയ പ്ലാറ്റ്ഫോമുകളുടെ സുരക്ഷാ സംവിധാനങ്ങളെയും മോഡറേഷൻ നയങ്ങളെയും മറികടക്കാൻ മോഷ്ടിക്കപ്പെട്ട ബാങ്ക് കാർഡുകളും ഓട്ടോമേറ്റഡ് വ്യാജ അക്കൗണ്ടുകളുമാണ് ഇവർ പ്രധാനമായും ഉപയോഗിക്കുന്നത്.
മെറ്റയുടെ ഉടമസ്ഥതയിലുള്ള ഇൻസ്റ്റാഗ്രാമിൽ ഇത്തരം ദൃശ്യങ്ങൾ പണം നൽകിയുള്ള പരസ്യങ്ങളായി പ്രത്യക്ഷപ്പെട്ടത് അടുത്തിടെ വലിയ വിവാദമായിരുന്നു. കർശനമായ പരിശോധനകളെ മറികടന്ന് ഇത്തരം ദൃശ്യങ്ങൾ എങ്ങനെ പ്ലാറ്റ്ഫോമുകളിൽ എത്തുന്നു എന്ന ആശങ്കയാണ് ഇതിലൂടെ ഉയർന്നത്.
എഐ സാങ്കേതികവിദ്യയുടെ കടന്നുവരവ് ഇത്തരം കുറ്റകൃത്യങ്ങളുടെ നിർമ്മാണത്തിലും പ്രചരണത്തിലും വലിയ വർദ്ധനവാണ് ഉണ്ടാക്കിയിരിക്കുന്നത്. ഇന്റർനെറ്റ് വാച്ച് ഫൗണ്ടേഷന്റെ കണക്കുകൾ പ്രകാരം, 2025-ലെ വെറും ആറ് മാസ കാലയളവിനുള്ളിൽ എഐ ഉപയോഗിച്ച് നിർമ്മിച്ച ഡീപ്പ് ഫേക്ക് ദൃശ്യങ്ങളിൽ 400 ശതമാനത്തിന്റെ വർദ്ധനവാണ് രേഖപ്പെടുത്തിയത്. ഒന്നിലധികം രാജ്യങ്ങൾ കേന്ദ്രീകരിച്ച് പ്രവർത്തിക്കുന്ന ഇത്തരം കുറ്റവാളി സംഘങ്ങൾ എൻക്രിപ്റ്റഡ് മെസ്സേജിങ് ആപ്പുകളും ഡാർക്ക് വെബും ക്രിപ്റ്റോകറൻസി വഴിയുള്ള പണമിടപാടുകളുമാണ് ഇതിനായി ഉപയോഗിക്കുന്നത്.
സുരക്ഷാ സംവിധാനങ്ങളെ കബളിപ്പിക്കുന്നത് എങ്ങനെ?
സൈബർ കുറ്റവാളികൾ സുരക്ഷാ പരിശോധനകളിൽ നിന്നും രക്ഷപ്പെടാൻ വൈവിധ്യമാർന്ന തന്ത്രങ്ങളാണ് ഉപയോഗിക്കുന്നത്. കോഡ് ഭാഷകൾ (coded language), മാറ്റം വരുത്തിയ ചിത്രങ്ങൾ, നേരിട്ടല്ലാത്ത ലിങ്കുകൾ, ഒരേസമയം ഒന്നിലധികം പ്ലാറ്റ്ഫോമുകൾ മാറിമാറി ഉപയോഗിക്കൽ എന്നിവ ഇതിൽ ഉൾപ്പെടുന്നു. കൂടാതെ, വ്യാജ അക്കൗണ്ടുകൾ നിർമ്മിക്കുന്നതിനും ലിങ്കുകൾ പ്രചരിപ്പിക്കുന്നതിനും ഓപ്പൺ പ്ലാറ്റ്ഫോമുകളിൽ നിന്നുള്ള ഉപഭോക്താക്കളെ രഹസ്യ സ്വഭാവമുള്ള എൻക്രിപ്റ്റഡ് ഗ്രൂപ്പുകളിലേക്ക് തിരിച്ചുവിടുന്നതിനും ഇവർ ഓട്ടോമേറ്റഡ് സംവിധാനങ്ങൾ ഉപയോഗിക്കുന്നു.
എഐ അടിസ്ഥാനമാക്കിയുള്ള മോഡറേഷൻ സംവിധാനങ്ങളുടെ പരിമിതികളെ ചൂഷണം ചെയ്യാനാണ് ഇത്തരം തന്ത്രങ്ങൾ പ്രധാനമായും ഉപയോഗിക്കുന്നത്. വൻതോതിലുള്ള ഡാറ്റയും പോസ്റ്റുകളും ഒരേസമയം പരിശോധിക്കാൻ എഐ സംവിധാനങ്ങൾക്ക് സാധിക്കുമെങ്കിലും, കാര്യങ്ങളുടെ ഉള്ളടക്കം കൃത്യമായി മനസ്സിലാക്കാനോ പുതുതായി നിർമിക്കപ്പെടുന്ന ഉള്ളടക്കങ്ങൾ തിരിച്ചറിയാനോ അവയ്ക്ക് പലപ്പോഴും ബുദ്ധിമുട്ടാണ്.
ദിവസേന കോടിക്കണക്കിന് പോസ്റ്റുകളാണ് സോഷ്യൽ മീഡിയയിൽ അപ്ലോഡ് ചെയ്യപ്പെടുന്നത്. ഇത്രയും വലിയ തോതിലുള്ള ഉള്ളടക്കം കൈകാര്യം ചെയ്യാനും, ഒപ്പം ഇത്തരം അസ്വസ്ഥതയുണ്ടാക്കുന്ന ദൃശ്യങ്ങൾ തുടർച്ചയായി കാണുന്നത് വഴി മനുഷ്യ മോഡറേറ്റർമാർക്ക് ഉണ്ടാകാൻ സാധ്യതയുള്ള മാനസിക സമ്മർദ്ദം കുറയ്ക്കാനും വേണ്ടിയാണ് സാങ്കേതിക കമ്പനികൾ എഐ സംവിധാനങ്ങളെ അമിതമായി ആശ്രയിക്കുന്നതെന്ന് വിദഗ്ധർ ചൂണ്ടിക്കാണിക്കുന്നു.
ഡിജിറ്റൽ ഹാഷുകളിലൂടെ നിലവിൽ കണ്ടെത്തിയിട്ടുള്ള ഉള്ളടക്കങ്ങൾ തിരിച്ചറിയുക, സംശയാസ്പദമായ ഭാഷാപ്രയോഗങ്ങൾ കണ്ടെത്തുക, അക്കൗണ്ടുകളുടെ പ്രവർത്തനം വിശകലനം ചെയ്യുക, കുറ്റകൃത്യങ്ങൾ ആവർത്തിക്കുന്നവരുടെ നെറ്റ്വർക്കുകൾ ട്രാക്ക് ചെയ്യുക എന്നിവ വഴി എഐ സംവിധാനങ്ങൾക്ക് വലിയ തോതിലുള്ള പ്രാരംഭ പരിശോധനകൾ നടത്താൻ കഴിയും. എന്നാൽ, സൈബർ കുറ്റവാളികൾ ഈ സംവിധാനങ്ങളിലെ പഴുതുകൾ കണ്ടെത്താനും അവയെ ചൂഷണം ചെയ്യാനുമായി നിരന്തരം ഇവയെ പരീക്ഷിച്ചുകൊണ്ടിരിക്കുകയാണ്.
"ഓരോ ചിത്രത്തിനും അതിന്റേതായ ഒരു ഡിജിറ്റൽ ഫിംഗർപ്രിന്റ് ഉള്ളതിനാൽ, നേരത്തെ കണ്ടെത്തിയവ വേഗത്തിൽ തിരിച്ചറിയാൻ എഐക്ക് മികച്ച കഴിവുണ്ട്. എന്നാൽ പുതിയതെന്തെങ്കിലും നൽകുകയോ അല്ലെങ്കിൽ കോഡ് ഭാഷകൾ ഉപയോഗിച്ച് മറച്ചുവെക്കുകയോ ചെയ്താൽ എഐ പരാജയപ്പെടുന്നു," - ഐറിസ് കൺസൾട്ടിങ് സിഒഒ കുനാൽ ഭോഗൽ പറഞ്ഞു.
സാങ്കേതികവിദ്യയ്ക്ക് പുറമെ ഇത്തരം കാര്യങ്ങൾ പരിശോധിക്കാൻ മനുഷ്യരുടെ അടിയന്തര ഇടപെടൽ കൂടി അനിവാര്യമാണെന്ന് ആർഎഎച്ച് ഇൻഫോടെക് സിഇഒ അനുരാഗ് സിങ് പറയുന്നു. ഇതിനായി കൂടുതൽ പോസ്റ്റുകൾ വേഗത്തിൽ പരിശോധിക്കാൻ എഐ ഉപയോഗിക്കുന്നതിനൊപ്പം സങ്കീർണ്ണമായ വിഷയങ്ങളിൽ മനുഷ്യ മോഡറേറ്റർമാരുടെ പരിശോധന ഉറപ്പാക്കുന്ന ഒരു സംയോജിത മോഡറേഷൻ രീതിയാണ് അദ്ദേഹം പ്രധാനമായും നിർദ്ദേശിക്കുന്നത്. കൂടാതെ, കുറ്റവാളികളുടെ അക്കൗണ്ടുകൾ കണ്ടെത്തി വേഗത്തിൽ നിയമപാലകരെ വിവരമറിയിക്കാനും നടപടിയെടുക്കാനും കുട്ടികളുടെ സുരക്ഷയ്ക്കായി പ്രത്യേക ടീമിനെ സജ്ജമാക്കേണ്ടതുണ്ട്.
പണം നൽകിയുള്ള പരസ്യങ്ങൾ അനുവദിക്കുമ്പോൾ പണമിടപാട് രീതികൾ, പരസ്യം നൽകുന്ന ആളുടെ പശ്ചാത്തലം, അവർ നൽകുന്ന ലിങ്കുകൾ എങ്ങോട്ടാണ് പോകുന്നത് എന്നിവ കർശനമായി പരിശോധിക്കണമെന്നും അദ്ദേഹം വ്യക്തമാക്കുന്നു. എന്നാൽ, ചിലവ് ചുരുക്കുന്നതിന്റെ ഭാഗമായി പല കമ്പനികളും മനുഷ്യ മോഡറേറ്റർമാരെ ഒഴിവാക്കുന്നത് ഇത്തരം നിയമവിരുദ്ധമായ ഉള്ളടക്കങ്ങൾ പ്ലാറ്റ്ഫോമുകളിൽ വലിയ തോതിൽ വർദ്ധിക്കാൻ കാരണമാകുന്നുണ്ടെന്നും വിദഗ്ധർ മുന്നറിയിപ്പ് നൽകുന്നു.
Cybercriminals are increasingly exploiting Artificial Intelligence (AI) and deepfake technology to generate and distribute Child Sexual Abuse Material (CSAM) on social media platforms, successfully bypassing existing security systems. Criminals use stolen credit cards, automated fake accounts, coded language, and altered images to trick moderation tools. A common tactic is running harmless-looking paid advertisements (recently seen on Meta's Instagram) and later changing the redirect links to route users to illegal content on encrypted platforms or the dark web.