സൂക്ഷിക്കുക! AI-യിൽ പ്രവർത്തിക്കുന്ന 'ന്യൂഡിഫൈ' ആപ്പുകൾ സെക്‌സ്‌റ്റോർഷൻ സ്‌കാമുകൾക്ക് ശക്തി പകരുന്നു
സെക്‌സ്‌റ്റോർഷൻ സ്‌കാമുകൾ, പ്രത്യേകിച്ച് വേഗത്തിൽ വ്യാപിക്കുന്ന ന്യൂഡിഫൈ ആപ്പുകളുടെ AI ഉപകരണങ്ങൾ ഉപയോഗിച്ച് വസ്ത്രങ്ങൾ ഡിജിറ്റലായി അഴിച്ചുമാറ്റാനോ ലൈംഗിക ചിത്രങ്ങൾ സൃഷ്ടിക്കാനോ കഴിവുള്ളവ, ആഗോള പ്രതിസന്ധിയിലേക്ക് നീങ്ങുകയാണ്. ഈ വർഷം കെന്റക്കിയിലെ 16 വയസ്സുള്ള ഒരു കൗമാരക്കാരന്റെ ദാരുണമായ ആത്മഹത്യ ഈ വിഷയത്തിൽ കടുത്ത ശ്രദ്ധ പതിപ്പിച്ചു.
എലിജ ഹീകോക്കിന്റെ മാതാപിതാക്കൾ യുഎസ് മാധ്യമങ്ങളോട് വെളിപ്പെടുത്തിയത്, തങ്ങളുടെ മകന് 3,000 ഡോളർ ആവശ്യപ്പെട്ട് ഭീഷണിപ്പെടുത്തുന്ന വാചക സന്ദേശങ്ങൾ ലഭിച്ചതായി. AI സൃഷ്ടിച്ചതായി തോന്നുന്ന അവന്റെ നഗ്നചിത്രത്തിന് പണം നൽകിയില്ലെങ്കിൽ അവന്റെ കുടുംബത്തിനും സുഹൃത്തുക്കൾക്കും അയയ്ക്കുമെന്ന് കുറ്റവാളികൾ മുന്നറിയിപ്പ് നൽകി.
നമ്മുടെ കുട്ടികളെ പിന്തുടരുന്ന ആളുകൾ നന്നായി സംഘടിതരാണെന്ന് എലിജയുടെ പിതാവ് ജോൺ ബർണറ്റ് സിബിഎസ് ന്യൂസിനോട് പറഞ്ഞു. അവർക്ക് നല്ല സാമ്പത്തിക പിന്തുണയുണ്ട്, അവർ അക്ഷീണം പ്രവർത്തിക്കുന്നു. ഫോട്ടോകൾ യഥാർത്ഥമാകണമെന്നില്ല, അവർക്ക് ആവശ്യമുള്ളതെന്തും സൃഷ്ടിക്കാൻ കഴിയും, തുടർന്ന് അവർ അത് ഉപയോഗിച്ച് കുട്ടിയെ ബ്ലാക്ക് മെയിൽ ചെയ്യുന്നു.
കേസുകളിൽ 'ഭയാനകമായ വർദ്ധനവ്'
ടെക് പ്ലാറ്റ്‌ഫോമുകളിൽ നിന്നും നിയന്ത്രണ ഏജൻസികളിൽ നിന്നും കൂടുതൽ ശക്തമായ നടപടി ആവശ്യപ്പെടുന്ന ഇത്തരം ഡിജിറ്റൽ ബ്ലാക്ക്‌മെയിലിംഗിന് ഇരയായ ആയിരക്കണക്കിന് പ്രായപൂർത്തിയാകാത്തവരിൽ ഒരാളാണ് എലിജ ഹീകോക്ക്.
14 നും 17 നും ഇടയിൽ പ്രായമുള്ള പുരുഷന്മാരായി തിരിച്ചറിയപ്പെടുന്ന യുഎസ് പ്രായപൂർത്തിയാകാത്തവരെ ലക്ഷ്യം വച്ചുള്ള സെക്‌സ്‌റ്റോർഷൻ കേസുകളിൽ യുഎസ് ഫെഡറൽ ബ്യൂറോ ഓഫ് ഇൻവെസ്റ്റിഗേഷൻ (എഫ്‌ബി‌ഐ) ഭയാനകമായ വർദ്ധനവ് റിപ്പോർട്ട് ചെയ്തിട്ടുണ്ട്. ഈ ഭീഷണി ആശങ്കാജനകമായ ആത്മഹത്യകൾക്ക് കാരണമായിട്ടുണ്ടെന്ന് ഏജൻസി മുന്നറിയിപ്പ് നൽകിയിട്ടുണ്ട്.
ഓൺലൈൻ കുട്ടികളുടെ ചൂഷണം തടയുന്നതിനായി സമർപ്പിച്ചിരിക്കുന്ന ലാഭേച്ഛയില്ലാത്ത ഒരു സംഘടനയായ തോൺ അടുത്തിടെ നടത്തിയ ഒരു സർവേയിൽ അമേരിക്കൻ കൗമാരക്കാരിൽ ആറ് ശതമാനം പേരും ഡീപ്ഫേക്ക് നഗ്നതകളുടെ നേരിട്ടുള്ള ഇരകളാണെന്ന് കണ്ടെത്തി. ബ്രിട്ടീഷ് വാച്ച്‌ഡോഗ് ഇന്റർനെറ്റ് വാച്ച് ഫൗണ്ടേഷൻ (ഐഡബ്ല്യുഎഫ്) കഴിഞ്ഞ വർഷം ഒരു റിപ്പോർട്ടിൽ അഭിപ്രായപ്പെട്ടു, അവയിൽ പലതും ഈ 'നഗ്നതാ' സേവനങ്ങൾ ഉപയോഗിച്ച് സൃഷ്ടിക്കപ്പെടുന്നു
സാമ്പത്തിക സെക്‌സ്‌റ്റോർഷൻ അല്ലെങ്കിൽ ലൈംഗികത പ്രകടമാക്കുന്ന ചിത്രങ്ങളുള്ള ബ്ലാക്ക്‌മെയിൽ റിപ്പോർട്ടുകളുമായി അടുത്ത ബന്ധമുള്ളതായി തോന്നുന്നു.
കുറ്റവാളികൾ ഇനി കുട്ടികളിൽ നിന്ന് അടുപ്പമുള്ള ചിത്രങ്ങൾ എടുക്കേണ്ടതില്ലെന്ന് IWF കൂടുതൽ എടുത്തുപറഞ്ഞു, കാരണം ദോഷകരമാകുമെന്ന് ബോധ്യപ്പെടുത്തുന്ന ചിത്രങ്ങൾ, ചില സന്ദർഭങ്ങളിൽ യഥാർത്ഥ ചിത്രങ്ങളെപ്പോലെ തന്നെ ദോഷകരവുമായിരിക്കാം, ജനറേറ്റീവ് AI ഉപയോഗിച്ച് നിർമ്മിക്കാൻ കഴിയും.
13 വയസ്സുള്ള പെൺകുട്ടികളെ വിജയകരമായി ബ്ലാക്ക്‌മെയിൽ ചെയ്തുവെന്ന് അവകാശപ്പെടുന്ന, ബ്ലാക്ക്‌മെയിലിംഗിനായി നഗ്നതാ ഉപകരണങ്ങൾ ഉപയോഗിക്കുന്നതിനെ വ്യക്തമായി പ്രോത്സാഹിപ്പിക്കുന്ന ഒരു പീഡോഫൈൽ ഗൈഡ് IWF തിരിച്ചറിഞ്ഞു.
നടപടികൾക്കിടയിലും ലാഭകരമായ ബിസിനസ്സ്
ഈ AI ഉപകരണങ്ങളുടെ പ്രവർത്തനം ലാഭകരമായ ബിസിനസ്സാണെന്ന് തെളിയിക്കപ്പെട്ടുകൊണ്ടിരിക്കുകയാണ്. ഡിജിറ്റൽ വഞ്ചനയെക്കുറിച്ച് അന്വേഷിക്കുന്ന യുഎസ് പ്രസിദ്ധീകരണമായ ഇൻഡിക്കേറ്ററിന്റെ വിശകലനം, ന്യൂഡിഫൈ സേവനങ്ങൾ വിൽക്കുന്ന 85 വെബ്‌സൈറ്റുകൾക്ക് മൊത്തത്തിൽ പ്രതിവർഷം 36 മില്യൺ ഡോളർ വരെ മൂല്യമുണ്ടാകുമെന്ന് കണക്കാക്കുന്നു.
മെയ് വരെയുള്ള ആറ് മാസത്തിനുള്ളിൽ ഈ സൈറ്റുകളിൽ പതിനെട്ട് മാത്രം 2.6 മില്യൺ മുതൽ 18.4 മില്യൺ ഡോളർ വരെ വരുമാനം നേടിയതായി റിപ്പോർട്ടുണ്ട്.
പ്ലാറ്റ്‌ഫോമുകളുടെയും റെഗുലേറ്റർമാരുടെയും കർശന നടപടികൾ ഉണ്ടായിരുന്നിട്ടും, ഈ സൈറ്റുകളിൽ ഭൂരിഭാഗവും ഗൂഗിൾ, ആമസോൺ, ക്ലൗഡ്‌ഫ്ലെയർ തുടങ്ങിയ ഭീമന്മാരിൽ നിന്നുള്ള സാങ്കേതിക ഇൻഫ്രാസ്ട്രക്ചറിനെ ആശ്രയിച്ച് പ്രവർത്തിക്കുന്നത് തുടരുന്നുവെന്ന് ഇൻഡിക്കേറ്റർ പറയുന്നു.
AI ഉപകരണങ്ങളുടെ വ്യാപനം ആഗോളതലത്തിൽ കുട്ടികളെ ബാധിക്കുന്ന പുതിയ തരത്തിലുള്ള ദുരുപയോഗങ്ങളിലേക്ക് നയിച്ചിട്ടുണ്ട്, സർവകലാശാലകളിലും സ്കൂളുകളിലും കൗമാരക്കാർ സ്വന്തം സഹപാഠികളുടെ ലൈംഗിക ചിത്രങ്ങൾ സൃഷ്ടിച്ചു.
സേവ് ദി ചിൽഡ്രൻ എന്ന പേരിൽ അടുത്തിടെ നടത്തിയ ഒരു സർവേയിൽ, സ്പെയിനിലെ അഞ്ചിൽ ഒരാൾ യുവാക്കളുടെ സമ്മതമില്ലാതെ ചിത്രങ്ങൾ പങ്കുവെച്ച ഡീപ്ഫേക്ക് നഗ്നചിത്രങ്ങൾക്ക് ഇരയായിട്ടുണ്ടെന്ന് കണ്ടെത്തി.
AI- സൃഷ്ടിച്ച അശ്ലീല ഉള്ളടക്കം ഉപയോഗിച്ച് സഹപാഠികളെയും അധ്യാപകരെയും ലക്ഷ്യമിട്ടതിന് പ്യൂർട്ടോറല്ലാനോയിലെ മൂന്ന് പ്രായപൂർത്തിയാകാത്തവരെ ഈ വർഷം ആദ്യം സ്പാനിഷ് പ്രോസിക്യൂട്ടർമാർ അന്വേഷിച്ചു.
നിയമനിർമ്മാണ, കോർപ്പറേറ്റ് പ്രതികരണങ്ങൾ
വർദ്ധിച്ചുവരുന്ന ഭീഷണിയോട് സർക്കാരുകളും ടെക് കമ്പനികളും പ്രതികരിക്കാൻ തുടങ്ങിയിരിക്കുന്നു. ഈ വർഷം യുണൈറ്റഡ് കിംഗ്ഡം ലൈംഗികത പ്രകടമാക്കുന്ന ഡീപ്ഫേക്കുകൾ സൃഷ്ടിക്കുന്നത് രണ്ട് വർഷം വരെ തടവ് ശിക്ഷ ലഭിക്കുന്ന ഒരു ക്രിമിനൽ കുറ്റമാക്കി മാറ്റി.
മെയ് മാസത്തിൽ യുഎസ് പ്രസിഡന്റ് ഡൊണാൾഡ് ട്രംപ് ഉഭയകക്ഷി ടേക്ക് ഇറ്റ് ഡൗൺ ആക്ടിൽ ഒപ്പുവച്ചു, ഇത് അടുപ്പമുള്ള ചിത്രങ്ങളുടെ സമ്മതമില്ലാതെ പ്രസിദ്ധീകരിക്കുന്നത് കുറ്റകരമാക്കുകയും ഓൺലൈൻ പ്ലാറ്റ്‌ഫോമുകളിൽ നിന്ന് അവ നീക്കം ചെയ്യാൻ നിർബന്ധിക്കുകയും ചെയ്യുന്നു.
ഹോങ്കോംഗ് ആസ്ഥാനമായുള്ള ന്യൂഡിഫൈ ആപ്പ് കമ്പനിയായ ക്രഷ് എഐയ്‌ക്കെതിരെ മെറ്റാ അടുത്തിടെ ഒരു കേസ് പ്രഖ്യാപിച്ചു, മെറ്റാ അതിന്റെ പ്ലാറ്റ്‌ഫോമുകളിൽ പരസ്യങ്ങൾ പോസ്റ്റ് ചെയ്യുന്നതിനുള്ള മെറ്റയുടെ നിയമങ്ങൾ ആവർത്തിച്ച് മറികടന്നുവെന്ന് ആരോപിച്ച്.
എന്നിരുന്നാലും, ഈ നടപടികൾ ഉണ്ടായിരുന്നിട്ടും AI ന്യൂഡിഫൈയിംഗ് സൈറ്റുകൾ പ്രതിരോധശേഷിയുള്ളതായി തുടരുമെന്ന് ഗവേഷകർ മുന്നറിയിപ്പ് നൽകുന്നു. ആപ്പുകളെയും സൈറ്റുകളെയും സ്ഥിരവും ക്ഷുദ്രകരവുമായ എതിരാളികളായി ഇൻഡിക്കേറ്റർ വിശേഷിപ്പിച്ചു, ഇന്നുവരെ AI ന്യൂഡിഫയറുകൾക്കെതിരായ പോരാട്ടം ഒരു വമ്പൻ കളിയാണെന്ന് നിഗമനം ചെയ്യുന്നു.
