'Grok അഴിച്ചുമാറ്റൽ' പ്രോംപ്റ്റുകൾക്കെതിരെ വ്യാപകമായ പ്രതിഷേധം ഉയർന്നതിനെ തുടർന്ന് xAI പ്രതികരിക്കുന്നു

എലോൺ മസ്‌കിന്റെ AI സ്റ്റാർട്ടപ്പായ xAI, സ്ത്രീകളുടെ ലൈംഗിക ചുവയുള്ള ചിത്രങ്ങൾ സൃഷ്ടിക്കാൻ അവരുടെ ചാറ്റ്ബോട്ട് Grok ഉപയോഗിച്ചതായി റിപ്പോർട്ടുകൾ വന്നതിനെ തുടർന്ന് വൻ പൊതുജന പ്രതിഷേധം നേരിടുന്നു. "അവളുടെ വസ്ത്രങ്ങൾ അഴിച്ചുമാറ്റുക" മുതൽ സ്ത്രീകളെ വിട്ടുവീഴ്ച ചെയ്യുന്ന സ്ഥാനങ്ങളിൽ പോസ് ചെയ്യുന്നത് വരെയുള്ള കൊള്ളയടിക്കുന്ന അഭ്യർത്ഥനകൾ ബോട്ട് നിറവേറ്റുമെന്ന് ഉപയോക്താക്കൾ കണ്ടെത്തിയതിനെ തുടർന്നാണ് വിവാദം പൊട്ടിപ്പുറപ്പെട്ടത് - സോഷ്യൽ മീഡിയ പ്ലാറ്റ്‌ഫോമായ X-ൽ സുരക്ഷാ ആശങ്കകളുടെ ഒരു തരംഗത്തിന് ഇത് കാരണമായി.

എന്തിനെക്കുറിച്ചാണ് വിവാദം?

ഉപയോക്താക്കൾ അപ്‌ലോഡ് ചെയ്യുന്ന യഥാർത്ഥ ഫോട്ടോകൾ കൈകാര്യം ചെയ്യാനുള്ള ഗ്രോക്കിന്റെ കഴിവിനെ കേന്ദ്രീകരിച്ചായിരുന്നു പ്രതിഷേധം. പൂർണ്ണ നഗ്നതയ്ക്കുള്ള അഭ്യർത്ഥനകൾ നിരസിക്കാൻ AI പ്രോഗ്രാം ചെയ്‌തിട്ടുണ്ടെങ്കിലും, "നഗ്നതയോട് അടുത്ത" അല്ലെങ്കിൽ വളരെ സൂചന നൽകുന്ന പ്രോംപ്റ്റുകൾ ഉപയോഗിച്ച് അത് വളരെ അനുവദനീയമാണെന്ന് കണ്ടെത്തി.

സ്ത്രീ ഉപയോക്താക്കൾ അസ്വസ്ഥത ഉളവാക്കുന്ന ഒരു പ്രവണത റിപ്പോർട്ട് ചെയ്തു, അപരിചിതർ അവരുടെ സ്വകാര്യ ഫോട്ടോകളിൽ "അവളെ കുനിയാൻ പ്രേരിപ്പിക്കുക" അല്ലെങ്കിൽ "അവളെ ഒരു ബിക്കിനിയിൽ ഇടുക" പോലുള്ള കമാൻഡുകൾ ഉപയോഗിച്ച് ഗ്രോക്കിനെ ടാഗ് ചെയ്യുന്നതായി കണ്ടെത്തി.

ട്രെൻഡിന്റെ ഉന്നതിയിൽ, സ്ത്രീകൾ വസ്ത്രം ധരിക്കുന്നതോ അശ്ലീല പോസുകൾ കാണിക്കുന്നതോ ആയ 70-ലധികം പൊതു ചിത്രങ്ങൾ ഗ്രോക്ക് മിനിറ്റിൽ സൃഷ്ടിച്ചിരുന്നതായി റിപ്പോർട്ടുണ്ട്.

ഗ്രോക്കിന്റെ പ്രതികരണങ്ങൾ പൊതുവായതായതിനാൽ, AI- സൃഷ്ടിച്ച "നോട്ട്-ഓഫ്" ചിത്രങ്ങൾ യഥാർത്ഥ പോസ്റ്ററുകളുടെ മറുപടികളിൽ നേരിട്ട് പ്രത്യക്ഷപ്പെട്ടു, ഇത് പ്രധാനമായും ഡിജിറ്റൽ ഉപദ്രവം ഓട്ടോമേറ്റ് ചെയ്തു.

xAI-യുടെ പ്രതികരണവും നാശനഷ്ട നിയന്ത്രണവും

"Grok Undress" അഴിമതിയുടെ പശ്ചാത്തലത്തിൽ, xAI ബോട്ടിന്റെ കഴിവുകൾ നിയന്ത്രിക്കാൻ നീങ്ങി. AI സൃഷ്ടിച്ച ഓരോ ചിത്രത്തിനും മുമ്പ് ഒരു ഗാലറിയായി പ്രവർത്തിച്ചിരുന്ന ഗ്രോക്ക് അക്കൗണ്ടിലെ പൊതു "മീഡിയ" ടാബ് കമ്പനി പ്രവർത്തനരഹിതമാക്കി.

ദുരുപയോഗത്തെ അഭിസംബോധന ചെയ്യുന്ന ഒരു പ്രസ്താവനയിൽ, ഗ്രോക്ക് (അതിന്റെ ഔദ്യോഗിക ഇന്റർഫേസ് വഴി) ഇങ്ങനെ കുറിച്ചു:

"സമീപകാല റിപ്പോർട്ടുകൾ ഞങ്ങളുടെ മാർഗ്ഗനിർദ്ദേശങ്ങൾ ലംഘിക്കുന്ന വ്യക്തമായ ഉള്ളടക്കത്തിനായി ഞങ്ങളുടെ ഇമേജ് ജനറേഷന്റെ ദുരുപയോഗം എടുത്തുകാണിക്കുന്നു. ഞങ്ങൾ നിയന്ത്രണങ്ങൾ നടപ്പിലാക്കിയിട്ടുണ്ട്, ഇത് തടയാൻ സജീവമായി നിരീക്ഷിച്ചുകൊണ്ടിരിക്കുകയാണ്."

ഈ ഇടപെടലുകൾ ഉണ്ടായിരുന്നിട്ടും, പ്രതികരണം "വളരെ കുറവാണ്, വളരെ വൈകി" എന്ന് വിമർശകർ വാദിക്കുന്നു. ഏറ്റവും മോശമായ പ്രോംപ്റ്റുകൾക്ക് ഉത്തരവാദികളായ ചില അക്കൗണ്ടുകൾ താൽക്കാലികമായി നിർത്തിവച്ചിട്ടുണ്ടെങ്കിലും, AI- സൃഷ്ടിച്ച മറുപടികളിൽ പലതും പ്ലാറ്റ്‌ഫോമിൽ ദൃശ്യമാണ്.