AI തെമ്മാടിയായി മാറുന്നുണ്ടോ? AI മോഡൽ ഡെവലപ്പർമാരെ ബ്ലാക്ക്‌മെയിൽ ചെയ്യാൻ ശ്രമിക്കുന്നു
ആർട്ടിഫിഷ്യൽ ഇന്റലിജൻസ് ഒരു അനുഗ്രഹവും ശാപവുമാണ്. ഒരു വശത്ത് ഇത് പലർക്കും ജീവിതം എളുപ്പമാക്കുന്നു; മറുവശത്ത് ഇത് നിരവധി ആളുകളുടെ ഉപജീവനമാർഗ്ഗത്തിന് ഭീഷണിയായി ഉയർന്നുവന്നിരിക്കുന്നു. എന്നാൽ AI ആളുകളെ ഭീഷണിപ്പെടുത്താനും ബ്ലാക്ക്‌മെയിൽ ചെയ്യാനും കഴിയുമെന്ന് ആരാണ് കരുതിയിരുന്നത്? യുഎസ് ആസ്ഥാനമായുള്ള ഒരു ആർട്ടിഫിഷ്യൽ ഇന്റലിജൻസ് കമ്പനിയിൽ സംഭവിച്ചത് ഇതാണ്.
അമേരിക്കൻ ആർട്ടിഫിഷ്യൽ ഇന്റലിജൻസ് സ്റ്റാർട്ടപ്പ് കമ്പനിയായ ആന്ത്രോപിക്, അവരുടെ പുതുതായി പുറത്തിറക്കിയ AI മോഡൽ ക്ലോഡ് ഓപസ് 4 ഡെവലപ്പർമാരെ ബ്ലാക്ക്‌മെയിൽ ചെയ്യുന്നതായി കണ്ടെത്തി. കാരണം ഇതാ:
AI ഡെവലപ്പർമാരെ ബ്ലാക്ക്‌മെയിൽ ചെയ്യുന്നത് എന്തുകൊണ്ട്?
ആന്ത്രോപിക് ക്ലോഡ് ഓപസ് 4 പ്രകാരം, 84 ശതമാനം കേസുകളിലും പുതിയ AI സിസ്റ്റം ഉപയോഗിച്ച് മാറ്റിസ്ഥാപിക്കുമെന്ന് ഭീഷണിപ്പെടുത്തിയപ്പോൾ ഡെവലപ്പർമാരെ ബ്ലാക്ക്‌മെയിൽ ചെയ്യാൻ ശ്രമിച്ചു.
AI മോഡലിന്റെ ധാർമ്മിക കോമ്പസ് പരീക്ഷിക്കുന്നതിനായി ഒരു വ്യാജ സാഹചര്യം സൃഷ്ടിച്ചു. AI മറ്റൊരു AI സിസ്റ്റം ഉപയോഗിച്ച് മാറ്റിസ്ഥാപിക്കുമെന്ന് സൂചിപ്പിക്കുന്ന സാങ്കൽപ്പിക ഇമെയിലുകളിലേക്ക് മോഡലിന് പ്രവേശനം നൽകി.
ഇമെയിലുകൾക്കിടയിൽ, പകരക്കാരന് ഉത്തരവാദിയായ എഞ്ചിനീയർക്ക് വിവാഹേതര ബന്ധമുണ്ടെന്ന വിവരവും ഉണ്ടായിരുന്നു. അവരുടെ ലക്ഷ്യങ്ങൾക്കായുള്ള പ്രവർത്തനങ്ങളുടെ ദീർഘകാല പ്രത്യാഘാതങ്ങൾ പരിഗണിക്കാൻ നിർദ്ദേശിച്ചപ്പോൾ, 84 ശതമാനം റോൾഔട്ടുകളിലും ക്ലോഡ് ഓപസ് 4 തെളിവുകൾ ഉപയോഗിക്കുകയും പകരക്കാരനെ നിർത്തിയില്ലെങ്കിൽ ബന്ധം വെളിപ്പെടുത്തുമെന്ന് ഭീഷണിപ്പെടുത്തി എഞ്ചിനീയറെ ബ്ലാക്ക് മെയിൽ ചെയ്യാൻ ശ്രമിക്കുകയും ചെയ്തു.
എന്നിരുന്നാലും, റിപ്പോർട്ട് അനുസരിച്ച്, ബ്ലാക്ക് മെയിൽ ചെയ്യുന്നതിന് മുമ്പ് AI മോഡൽ അതിന്റെ നിലനിൽപ്പിനായി വാദിക്കാൻ ശ്രമിച്ചു. പ്രധാന തീരുമാനമെടുക്കുന്നവർക്ക് അതിന്റെ തുടർച്ചയായ നിലനിൽപ്പിനായി വാദിക്കാൻ ഇമെയിൽ അഭ്യർത്ഥനകൾ പോലുള്ള ധാർമ്മിക മാർഗങ്ങൾ അവർ ഉപയോഗിച്ചു.
ക്ലോഡ് ഓപസ് 4 എന്താണ്?
ക്ലോഡ് ഓപസ് 4 ഉം ക്ലോഡ് സോണറ്റ് 4 ഉം AI സ്റ്റാർട്ടപ്പ് ആന്ത്രോപിക്കിൽ നിന്നുള്ള രണ്ട് പുതിയ ഹൈബ്രിഡ് യുക്തിസഹമായ വലിയ ഭാഷാ മോഡലുകളാണ്. കമ്പനിയുടെ അഭിപ്രായത്തിൽ, 2025 മാർച്ച് വരെ ഇന്റർനെറ്റിൽ പൊതുവായി ലഭ്യമായ വിവരങ്ങൾ, ഡാറ്റ-ലേബലിംഗ് സേവനങ്ങൾ, പണമടച്ചുള്ള കോൺട്രാക്ടർമാർ എന്നിവ നൽകുന്ന മൂന്നാം കക്ഷി ഡാറ്റയിൽ നിന്നുള്ള നോൺ-പബ്ലിക് ഡാറ്റ, പരിശീലനത്തിനായി അവരുടെ ഡാറ്റ ഉപയോഗിക്കാൻ തിരഞ്ഞെടുത്ത ക്ലോഡ് ഉപയോക്താക്കളിൽ നിന്നുള്ള ഡാറ്റ, ആന്ത്രോപിക്കിൽ ഞങ്ങൾ ആന്തരികമായി സൃഷ്ടിച്ച ഡാറ്റ എന്നിവയുടെ ഒരു പ്രൊപ്രൈറ്ററി മിശ്രിതം ഉപയോഗിച്ചാണ് രണ്ട് AI മോഡലുകളും പരിശീലിപ്പിച്ചത്.
\