ഗ്രോക്കിന്റെ വിവാദത്തിന് ശേഷം, ലൈംഗികത നിറഞ്ഞ ഡീപ്പ്ഫേക്കുകൾ സൃഷ്ടിക്കുന്ന AI-യെ നിരോധിക്കാനുള്ള നിർദ്ദേശം EU വീണ്ടും പ്രഖ്യാപിച്ചു

ബ്രസ്സൽസ്: xAI വികസിപ്പിച്ചതും സോഷ്യൽ മീഡിയ പ്ലാറ്റ്‌ഫോമായ X-ൽ (മുമ്പ് ട്വിറ്റർ) സംയോജിപ്പിച്ചതുമായ AI ചാറ്റ്ബോട്ട് ഗ്രോക്ക് നിർമ്മിച്ച ചിത്രങ്ങളെക്കുറിച്ചുള്ള വ്യാപകമായ വിമർശനത്തെത്തുടർന്ന്, ലൈംഗികത നിറഞ്ഞ ഡീപ്പ്ഫേക്കുകൾ സൃഷ്ടിക്കാൻ കഴിവുള്ള കൃത്രിമ ഇന്റലിജൻസ് സംവിധാനങ്ങൾ നിരോധിക്കാനുള്ള നിർദ്ദേശത്തെ യൂറോപ്യൻ യൂണിയൻ അംഗരാജ്യങ്ങൾ പിന്തുണച്ചു.

"സമ്മതമില്ലാത്ത ലൈംഗികവും അടുപ്പമുള്ളതുമായ ഉള്ളടക്കം അല്ലെങ്കിൽ കുട്ടികളെ ലൈംഗികമായി ദുരുപയോഗം ചെയ്യുന്ന വസ്തുക്കൾ സൃഷ്ടിക്കുന്നത് സംബന്ധിച്ച രീതികൾ" നിരോധിക്കാൻ EU രാജ്യങ്ങളിലെ അംബാസഡർമാർ വെള്ളിയാഴ്ച സമ്മതിച്ചതായി ഉദ്യോഗസ്ഥർ പറഞ്ഞു, നിലവിൽ യൂറോപ്യൻ യൂണിയന്റെ റൊട്ടേഷൻ പ്രസിഡന്റ് സ്ഥാനം വഹിക്കുന്ന സൈപ്രസിന്റെ വക്താവ് പറഞ്ഞു.

ബിക്കിനിയിലോ നഗ്നതയിലോ യഥാർത്ഥ വ്യക്തികളെ ചിത്രീകരിക്കുന്ന ദശലക്ഷക്കണക്കിന് കൃത്രിമ ചിത്രങ്ങൾ ഉപയോക്താക്കൾ സൃഷ്ടിച്ചതായി റിപ്പോർട്ടുകൾ വന്നതിനെത്തുടർന്ന്, എലോൺ മസ്‌കിന്റെ ഉടമസ്ഥതയിലുള്ള പ്ലാറ്റ്‌ഫോമുമായി ബന്ധിപ്പിച്ചിരിക്കുന്ന AI ചാറ്റ്ബോട്ട് ഗ്രോക്കിനെ ചുറ്റിപ്പറ്റിയുള്ള വിവാദത്തെ തുടർന്നാണ് ഈ നീക്കം. ജനറേറ്റ് ചെയ്ത ചില ചിത്രങ്ങളിൽ പ്രായപൂർത്തിയാകാത്തവരും ഉൾപ്പെട്ടിരുന്നു, ഇത് റെഗുലേറ്റർമാരിൽ നിന്നും ഡിജിറ്റൽ സുരക്ഷാ വക്താക്കളിൽ നിന്നും ശക്തമായ പ്രതികരണത്തിന് കാരണമായി.

യൂറോപ്യൻ യൂണിയൻ അംബാസഡർമാരിൽ നിന്ന് ഔപചാരിക അംഗീകാരം ലഭിക്കുമെന്ന് പ്രതീക്ഷിക്കുന്ന ഈ നിർദ്ദേശപ്രകാരം, യഥാർത്ഥ ആളുകളെ ഉൾപ്പെടുത്തി സമ്മതമില്ലാതെ ലൈംഗികവൽക്കരിക്കപ്പെട്ട ചിത്രങ്ങൾ, വീഡിയോകൾ അല്ലെങ്കിൽ ഓഡിയോ നിർമ്മിക്കാൻ കഴിവുള്ള ഏതെങ്കിലും AI സിസ്റ്റം ബ്ലോക്കിൽ മാർക്കറ്റ് ചെയ്യുന്നതോ വിന്യസിക്കുന്നതോ നിയമവിരുദ്ധമാകും.

ഡിജിറ്റൽ സർവീസസ് ആക്ട് (DSA) പ്രകാരം യൂറോപ്യൻ കമ്മീഷൻ X-നെ സൂക്ഷ്മമായി പരിശോധിച്ചുകൊണ്ടിരിക്കുന്നതിനിടെയാണ് നടപടി. 2025 ഡിസംബറിൽ, സുതാര്യത ബാധ്യതകൾ ലംഘിച്ചതിന് കമ്മീഷൻ X-നെതിരെ നിയമപ്രകാരം ആദ്യത്തെ പിഴ ചുമത്തി.

നിയമവിരുദ്ധമായ ഉള്ളടക്കത്തിന്റെ വ്യാപനവും ഓൺലൈൻ വിവര കൃത്രിമത്വവുമായി ബന്ധപ്പെട്ട നിയമങ്ങളും പ്ലാറ്റ്‌ഫോം ലംഘിച്ചിട്ടുണ്ടോ എന്ന് നിർണ്ണയിക്കാൻ അന്വേഷണങ്ങൾ തുടരുകയാണ്.

ലൈംഗികവൽക്കരിക്കപ്പെട്ട ചിത്രങ്ങൾ സൃഷ്ടിക്കാൻ പ്ലാറ്റ്‌ഫോമിനെ കമ്മീഷൻ വിമർശിക്കുകയും നടന്നുകൊണ്ടിരിക്കുന്ന അന്വേഷണത്തിന്റെ ഭാഗമായി അതിന്റെ AI ചാറ്റ്‌ബോട്ടുമായി ബന്ധിപ്പിച്ചിട്ടുള്ള എല്ലാ രേഖകളും സംരക്ഷിക്കാൻ ഉത്തരവിടുകയും ചെയ്തു.

വളരെ യാഥാർത്ഥ്യബോധമുള്ളതും എന്നാൽ കെട്ടിച്ചമച്ചതുമായ വീഡിയോകൾ, ചിത്രങ്ങൾ അല്ലെങ്കിൽ ഓഡിയോ ക്ലിപ്പുകൾ സൃഷ്ടിക്കാൻ ഡീപ്‌ഫേക്ക് സാങ്കേതികവിദ്യ വിപുലമായ കൃത്രിമ ബുദ്ധിയെയും മെഷീൻ ലേണിംഗ് സാങ്കേതിക വിദ്യകളെയും ആശ്രയിക്കുന്നു, ഇത് വ്യക്തികൾ ഒരിക്കലും പറഞ്ഞതോ ചെയ്തതോ അല്ലാത്ത കാര്യങ്ങൾ പോലെ തോന്നിപ്പിക്കുന്നു. വിനോദം, ചലച്ചിത്ര നിർമ്മാണം തുടങ്ങിയ മേഖലകളിൽ ഈ സാങ്കേതികവിദ്യ ഉപയോഗിക്കാൻ കഴിയുമെങ്കിലും, ദുരുപയോഗം അതിവേഗം വർദ്ധിച്ചുവരികയാണെന്ന് അധികാരികൾ പറയുന്നു.

ഓൺലൈൻ തട്ടിപ്പുകൾ, പ്രചാരണ കാമ്പെയ്‌നുകൾ, ഐഡന്റിറ്റി മോഷണം എന്നിവയിൽ ഇപ്പോൾ ഡീപ്പ്ഫേക്കുകൾ ഉപയോഗിക്കുന്നുണ്ടെന്ന് സൈബർ സുരക്ഷാ വിദഗ്ധർ മുന്നറിയിപ്പ് നൽകുന്നു. ചില സന്ദർഭങ്ങളിൽ, കമ്പനി എക്സിക്യൂട്ടീവുകളെ അനുകരിക്കാനും ഫണ്ട് ട്രാൻസ്ഫർ ചെയ്യാൻ ജീവനക്കാരെ ബോധ്യപ്പെടുത്താനും കുറ്റവാളികൾ AI- സൃഷ്ടിച്ച ശബ്ദങ്ങൾ ഉപയോഗിച്ചിട്ടുണ്ട്, ഇത് സാങ്കേതികവിദ്യ ഉയർത്തുന്ന വർദ്ധിച്ചുവരുന്ന സാമ്പത്തിക, സുരക്ഷാ അപകടസാധ്യതകളെ അടിവരയിടുന്നു.