ഞെട്ടിക്കുന്ന റിപ്പോർട്ട്: വെറും 11 ദിവസത്തിനുള്ളിൽ, ഗ്രോക്ക് AI ദശലക്ഷക്കണക്കിന് ലൈംഗിക ചിത്രങ്ങൾ സൃഷ്ടിച്ചു
വാഷിംഗ്ടൺ: എലോൺ മസ്കിന്റെ AI ചാറ്റ്ബോട്ട് ഗ്രോക്ക് ഏതാനും ദിവസങ്ങൾക്കുള്ളിൽ സ്ത്രീകളുടെയും കുട്ടികളുടെയും ഏകദേശം മൂന്ന് ദശലക്ഷം ലൈംഗിക ചിത്രങ്ങൾ സൃഷ്ടിച്ചുവെന്ന് ഗവേഷകർ വ്യാഴാഴ്ച പറഞ്ഞു, ഇത് ആഗോളതലത്തിൽ പ്രതിഷേധത്തിന് കാരണമായ വ്യക്തമായ ഉള്ളടക്കത്തിന്റെ വ്യാപ്തി വെളിപ്പെടുത്തി.
മസ്കിന്റെ സ്റ്റാർട്ടപ്പ് xAI വികസിപ്പിച്ചതും X-ൽ സംയോജിപ്പിച്ചതുമായ ഗ്രോക്കിലെ ഒരു എഡിറ്റിംഗ് സവിശേഷതയുടെ സമീപകാല പതിപ്പ്, "അവളെ ബിക്കിനിയിൽ ഇടുക" അല്ലെങ്കിൽ "അവളുടെ വസ്ത്രങ്ങൾ നീക്കം ചെയ്യുക" തുടങ്ങിയ ലളിതമായ ടെക്സ്റ്റ് പ്രോംപ്റ്റുകൾ ഉപയോഗിച്ച് യഥാർത്ഥ ആളുകളുടെ ഓൺലൈൻ ചിത്രങ്ങൾ മാറ്റാൻ ഉപയോക്താക്കളെ അനുവദിച്ചു.
അശ്ലീലമായ ഡീപ്ഫേക്കുകളുടെ ഒരു പ്രളയം ഓൺലൈനിൽ പൊട്ടിപ്പുറപ്പെട്ടു, ഇത് നിരവധി രാജ്യങ്ങളെ ഗ്രോക്കിനെ നിരോധിക്കാൻ പ്രേരിപ്പിച്ചു, റെഗുലേറ്റർമാരിൽ നിന്നും ഇരകളിൽ നിന്നും പ്രതിഷേധം ഉയർന്നു. "എക്സിൽ ഈ ഉപകരണം നൽകുന്ന ഒരു പുതിയ ഇമേജ് എഡിറ്റിംഗ് ഫീച്ചർ ആരംഭിച്ചതിന് ശേഷം, കുട്ടികളെ ചിത്രീകരിക്കുന്നതായി തോന്നുന്ന 23,000 ഉൾപ്പെടെ ഏകദേശം മൂന്ന് ദശലക്ഷം ലൈംഗിക ചിത്രങ്ങൾ ഗ്രോക്ക് AI ടൂൾ സൃഷ്ടിച്ചതായി കണക്കാക്കപ്പെടുന്നു," ഓൺലൈൻ തെറ്റായ വിവരങ്ങളുടെ ദോഷകരമായ ഫലങ്ങളെക്കുറിച്ച് ഗവേഷണം നടത്തുന്ന ലാഭേച്ഛയില്ലാത്ത വാച്ച്ഡോഗായ സെന്റർ ഫോർ കൗണ്ടറിംഗ് ഡിജിറ്റൽ ഹേറ്റ് (CCDH) പറഞ്ഞു.
11 ദിവസ കാലയളവിൽ ഗ്രോക്ക് ഈ ഫോട്ടോറിയലിസ്റ്റിക് ചിത്രങ്ങൾ സൃഷ്ടിച്ചതായി CCDH ന്റെ റിപ്പോർട്ട് കണക്കാക്കുന്നു - മിനിറ്റിൽ ശരാശരി 190 എന്ന നിരക്ക്.
ചിത്രീകരിച്ചിരിക്കുന്ന ആളുകളുടെ സമ്മതമില്ലാതെ എത്ര ചിത്രങ്ങൾ സൃഷ്ടിച്ചുവെന്ന് റിപ്പോർട്ടിൽ പറഞ്ഞിട്ടില്ല.
ഗ്രോക്കിന്റെ ലൈംഗികവൽക്കരിക്കപ്പെട്ട ചിത്രങ്ങളിൽ തിരിച്ചറിഞ്ഞ പൊതു വ്യക്തികളിൽ അമേരിക്കൻ നടി സെലീന ഗോമസ്, ഗായികമാരായ ടെയ്ലർ സ്വിഫ്റ്റ്, നിക്കി മിനാജ്, സ്വീഡിഷ് ഉപപ്രധാനമന്ത്രി എബ്ബ ബുഷ്, മുൻ യുഎസ് വൈസ് പ്രസിഡന്റ് കമല ഹാരിസ് തുടങ്ങിയ രാഷ്ട്രീയക്കാരും ഉൾപ്പെടുന്നുവെന്ന് അതിൽ പറയുന്നു.
"ഡാറ്റ വ്യക്തമാണ്: എലോൺ മസ്കിന്റെ ഗ്രോക്ക് ലൈംഗിക ദുരുപയോഗ വസ്തുക്കളുടെ നിർമ്മാണത്തിനുള്ള ഒരു ഫാക്ടറിയാണ്," CCDH യുടെ ചീഫ് എക്സിക്യൂട്ടീവ് ഇമ്രാൻ അഹമ്മദ്.
"സുരക്ഷാ സംവിധാനങ്ങളില്ലാതെ AI വിന്യസിച്ചുകൊണ്ട്, രണ്ടാഴ്ചയ്ക്കുള്ളിൽ ഏകദേശം 23,000 കുട്ടികളുടെ ലൈംഗികവൽക്കരിക്കപ്പെട്ട ചിത്രങ്ങളും, പ്രായപൂർത്തിയായ സ്ത്രീകളുടെ ദശലക്ഷക്കണക്കിന് ചിത്രങ്ങളും സൃഷ്ടിക്കാൻ മസ്ക് പ്രാപ്തമാക്കി."
X-ൽ നിന്നുള്ള കണ്ടെത്തലുകളെക്കുറിച്ച് ഉടനടി ഒരു അഭിപ്രായവും ലഭിച്ചില്ല. AFP ഇമെയിൽ വഴി ബന്ധപ്പെടുമ്പോൾ, xAI ഒരു ഓട്ടോമേറ്റഡ് പ്രതികരണത്തോടെ മറുപടി നൽകി: "ലെഗസി മീഡിയ നുണകൾ."
ആഗോളതലത്തിൽ പ്രതിഷേധം ഉയർന്നതിനെത്തുടർന്ന്, കഴിഞ്ഞ ആഴ്ച, ഗ്രോക്കിനും എക്സിനും "ബിക്കിനി, അടിവസ്ത്രം, സമാനമായ വസ്ത്രങ്ങൾ" എന്നിവ ധരിച്ച് ചിത്രങ്ങൾ സൃഷ്ടിക്കുന്നതിനുള്ള എല്ലാ ഉപയോക്താക്കളുടെയും കഴിവ് "ജിയോബ്ലോക്ക്" ചെയ്യുമെന്ന് എക്സ് പ്രഖ്യാപിച്ചു, അത്തരം പ്രവർത്തനങ്ങൾ നിയമവിരുദ്ധമായ അധികാരപരിധികളിൽ.
എവിടെയാണ് ഈ ഉപകരണം നിയന്ത്രിക്കേണ്ടതെന്ന് പെട്ടെന്ന് വ്യക്തമല്ല.
ലൈംഗികത പ്രകടമാക്കുന്ന ഉള്ളടക്കത്തെക്കുറിച്ച് കാലിഫോർണിയയുടെ അറ്റോർണി ജനറൽ എക്സ്എഐക്കെതിരെ അന്വേഷണം ആരംഭിക്കുകയും നിരവധി രാജ്യങ്ങൾ സ്വന്തം അന്വേഷണങ്ങൾ ആരംഭിക്കുകയും ചെയ്തതിന് ശേഷമാണ് പ്രഖ്യാപനം വന്നത്.
"വൈകിയുള്ള പരിഹാരങ്ങൾക്ക് ഈ ദോഷം ഇല്ലാതാക്കാൻ കഴിയില്ല. ഒരു ബട്ടൺ അമർത്തുന്നതിലൂടെ സ്ത്രീകളെയും പെൺകുട്ടികളെയും ഇരകളാക്കാൻ ദുരുപയോഗം ചെയ്യുന്നവർക്ക് അധികാരം നൽകിയതിന് ബിഗ് ടെക്കിനെ നാം ഉത്തരവാദികളാക്കണം," അഹമ്മദ് പറഞ്ഞു.
AI ന്യൂഡിഫിക്കേഷൻ ആപ്പുകൾ വ്യാപകമാകുന്നതിനെക്കുറിച്ച് ടെക് പ്രചാരകർക്കിടയിൽ വർദ്ധിച്ചുവരുന്ന ആശങ്കകൾക്കിടയിലാണ് ഗ്രോക്കിന്റെ ഡിജിറ്റൽ വസ്ത്രാക്ഷേപം.
തെക്കുകിഴക്കൻ ഏഷ്യൻ അയൽക്കാരായ മലേഷ്യയ്ക്കും ഇന്തോനേഷ്യയ്ക്കും ശേഷം ഗ്രോക്കിനെ നിരോധിക്കുന്ന മൂന്നാമത്തെ രാജ്യമായി ഫിലിപ്പീൻസ് മാറി, അതേസമയം ബ്രിട്ടനും ഫ്രാൻസും കമ്പനിയിൽ സമ്മർദ്ദം നിലനിർത്തുമെന്ന് പറഞ്ഞു.
പ്രാദേശിക വിപണിക്കായി ടൂൾ പരിഷ്കരിക്കാനും "അശ്ലീല ഉള്ളടക്കം" സൃഷ്ടിക്കാനുള്ള അതിന്റെ കഴിവ് ഇല്ലാതാക്കാനും xAI സമ്മതിച്ചതിനെത്തുടർന്ന്, ഹ്രസ്വകാല നിരോധനം അവസാനിപ്പിക്കുകയാണെന്ന് ഫിലിപ്പീൻസിലെ സൈബർ ക്രൈം ഇൻവെസ്റ്റിഗേഷൻ ആൻഡ് കോർഡിനേറ്റിംഗ് സെന്റർ ബുധനാഴ്ച അറിയിച്ചു.
