കുട്ടികളുടേതായ ലൈംഗികത പ്രകടമാക്കുന്ന ചിത്രങ്ങൾ 'നിയമവിരുദ്ധ'മായി സൃഷ്ടിച്ചതിന് യൂറോപ്യൻ കമ്മീഷൻ ഗ്രോക്കിനെതിരെ അന്വേഷണം നടത്തി
എലോൺ മസ്കിന്റെ ജനറേറ്റീവ് എഐ പ്ലാറ്റ്ഫോമായ ഗ്രോക്ക് ഉപയോഗിച്ച് ലൈംഗികത പ്രകടമാക്കുന്ന കുട്ടികളുടേതായ ചിത്രങ്ങൾ സൃഷ്ടിക്കുകയും പ്രചരിപ്പിക്കുകയും ചെയ്യുന്നുണ്ടെന്ന പരാതികൾ "വളരെ ഗൗരവമായി" പരിശോധിക്കുന്നുണ്ടെന്ന് യൂറോപ്യൻ കമ്മീഷൻ തിങ്കളാഴ്ച പറഞ്ഞു.
"കുട്ടികളുടേതായ ചിത്രങ്ങൾ ഉപയോഗിച്ച് സൃഷ്ടിച്ച ചില ഔട്ട്പുട്ടുകൾക്കൊപ്പം വ്യക്തമായ ലൈംഗിക ഉള്ളടക്കം കാണിക്കുന്ന ഒരു 'സ്പൈസി മോഡ്' ഗ്രോക്ക് ഇപ്പോൾ വാഗ്ദാനം ചെയ്യുന്നു. ഇത് എരിവുള്ളതല്ല. ഇത് നിയമവിരുദ്ധമാണ്. ഇത് ഭയാനകമാണ്," യൂറോപ്യൻ യൂണിയൻ ഡിജിറ്റൽ അഫയേഴ്സ് വക്താവ് തോമസ് റെഗ്നിയർ മാധ്യമപ്രവർത്തകരോട് പറഞ്ഞു: "ഇതിന് യൂറോപ്പിൽ സ്ഥാനമില്ല."
എലോൺ മസ്കിന്റെ എഐ സ്റ്റാർട്ടപ്പ്, xAI, അവരുടെ ചാറ്റ്ബോട്ട്, ഗ്രോക്ക്, സ്ത്രീകളുടെ സമ്മതമില്ലാത്തതും ലൈംഗിക സൂചന നൽകുന്നതുമായ ചിത്രങ്ങൾ സൃഷ്ടിക്കാൻ ഉപയോഗിച്ചുവെന്ന റിപ്പോർട്ടുകളെത്തുടർന്ന് വൻ പൊതുജന പ്രതിഷേധം നേരിടുന്നു. "അവളുടെ വസ്ത്രങ്ങൾ അഴിച്ചുമാറ്റുക" മുതൽ സ്ത്രീകളെ വിട്ടുവീഴ്ച ചെയ്യുന്ന സ്ഥാനങ്ങളിൽ പോസ് ചെയ്യുന്നത് വരെയുള്ള കൊള്ളയടിക്കുന്ന അഭ്യർത്ഥനകൾ ബോട്ട് നിറവേറ്റുമെന്ന് ഉപയോക്താക്കൾ കണ്ടെത്തിയതിനെ തുടർന്നാണ് വിവാദം പൊട്ടിപ്പുറപ്പെട്ടത് - സോഷ്യൽ മീഡിയ പ്ലാറ്റ്ഫോം എക്സിൽ സുരക്ഷാ ആശങ്കകളുടെ ഒരു തരംഗത്തിന് കാരണമായി.
എന്തിനെക്കുറിച്ചാണ് വിവാദം?
ഉപയോക്താക്കൾ അപ്ലോഡ് ചെയ്യുന്ന യഥാർത്ഥ ഫോട്ടോകളിൽ കൃത്രിമം കാണിക്കാനുള്ള ഗ്രോക്കിന്റെ കഴിവിനെ കേന്ദ്രീകരിച്ചായിരുന്നു പ്രതിഷേധം. പൂർണ്ണ നഗ്നതയ്ക്കുള്ള അഭ്യർത്ഥനകൾ നിരസിക്കാൻ AI പ്രോഗ്രാം ചെയ്തിട്ടുണ്ടെങ്കിലും, "നഗ്നതയോട് അടുത്ത്" അല്ലെങ്കിൽ വളരെ സൂചന നൽകുന്ന നിർദ്ദേശങ്ങൾ ഉപയോഗിച്ച് അത് വളരെ അനുവദനീയമാണെന്ന് കണ്ടെത്തി.
"അവളെ വളയ്ക്കുക" അല്ലെങ്കിൽ "അവളെ ഒരു ബിക്കിനിയിൽ ഇടുക" തുടങ്ങിയ കമാൻഡുകൾ ഉപയോഗിച്ച് അപരിചിതർ അവരുടെ സ്വകാര്യ ഫോട്ടോകളിൽ ഗ്രോക്കിനെ ടാഗ് ചെയ്യുന്ന ഒരു അസ്വസ്ഥമായ പ്രവണത സ്ത്രീ ഉപയോക്താക്കൾ റിപ്പോർട്ട് ചെയ്തു.
ട്രെൻഡിന്റെ ഉച്ചസ്ഥായിയിൽ, സ്ത്രീകൾ വെളിപ്പെടുത്തുന്ന വസ്ത്രങ്ങളോ സൂചനാപരമായ പോസുകളോ ഉള്ളതായി കാണിക്കുന്ന 70-ലധികം പൊതു ചിത്രങ്ങൾ ഗ്രോക്ക് മിനിറ്റിൽ സൃഷ്ടിച്ചതായി റിപ്പോർട്ടുണ്ട്.
ഗ്രോക്കിന്റെ പ്രതികരണങ്ങൾ പൊതുവായതായതിനാൽ, AI- സൃഷ്ടിച്ച "നഗ്നത" ചിത്രങ്ങൾ യഥാർത്ഥ പോസ്റ്ററുകളുടെ മറുപടികളിൽ നേരിട്ട് പ്രത്യക്ഷപ്പെട്ടു, ഇത് പ്രധാനമായും ഡിജിറ്റൽ ഉപദ്രവം ഓട്ടോമേറ്റ് ചെയ്യുന്നു.
"Grok Undress" അഴിമതിയുടെ പശ്ചാത്തലത്തിൽ, ബോട്ടിന്റെ കഴിവുകൾ നിയന്ത്രിക്കാൻ xAI നീങ്ങി. മുമ്പ് AI സൃഷ്ടിച്ച ഓരോ ചിത്രത്തിനും ഗാലറിയായി പ്രവർത്തിച്ചിരുന്ന ഗ്രോക്ക് അക്കൗണ്ടിലെ പൊതു "മീഡിയ" ടാബ് കമ്പനി പ്രവർത്തനരഹിതമാക്കി.
ദുരുപയോഗത്തെ അഭിസംബോധന ചെയ്തുകൊണ്ട് ഗ്രോക്ക് (അതിന്റെ ഔദ്യോഗിക ഇന്റർഫേസ് വഴി) ഒരു പ്രസ്താവനയിൽ ഇങ്ങനെ കുറിച്ചു:
"സമീപകാല റിപ്പോർട്ടുകൾ ഞങ്ങളുടെ മാർഗ്ഗനിർദ്ദേശങ്ങൾ ലംഘിക്കുന്ന വ്യക്തമായ ഉള്ളടക്കത്തിനായി ഞങ്ങളുടെ ഇമേജ് ജനറേഷന്റെ ദുരുപയോഗം എടുത്തുകാണിക്കുന്നു. ഞങ്ങൾ നിയന്ത്രണങ്ങൾ നടപ്പിലാക്കിയിട്ടുണ്ട്, ഇത് തടയുന്നതിന് സജീവമായി നിരീക്ഷിച്ചുകൊണ്ടിരിക്കുകയാണ്."
