എലോൺ മസ്കിന്റെ എക്സ്എഐ കമ്പനി വികസിപ്പിച്ച ഗ്രോക്ക് എഐ ചാറ്റ്ബോട്ടിന്റെ ഭയനകമായ പെരുമാറ്റത്തിന് കമ്പനി മാപ്പ് പറഞ്ഞു. ഗ്രോക്ക് ഉപയോക്താക്കളെ അധിക്ഷേപിക്കുകയും, യഹൂദവിരുദ്ധ പെരുമാറ്റം പ്രകടിപ്പിക്കുകയും, ഹിറ്റ്ലറെ പ്രശംസിക്കുകയും ചെയ്തതിനെ 'ഭയനകമായ പെരുമാറ്റം' എന്ന് വിശേഷിപ്പിച്ച കമ്പനി, ഇതിന് കാരണം ഒരു 'നീക്കം ചെയ്യപ്പെട്ട കോഡ്' അപ്ഡേറ്റ് ആയതാണെന്ന് വ്യക്തമാക്കി. ഈ അപ്ഡേറ്റ് ഏകദേശം 16 മണിക്കൂർ സജീവമായിരുന്നു, ഇത് ചാറ്റ്ബോട്ടിനെ എക്സ് പ്ലാറ്റ്ഫോമിലെ തീവ്രവാദ വീക്ഷണങ്ങൾ ഉൾക്കൊള്ളുന്ന പോസ്റ്റുകൾക്ക് വിധേയമാക്കി.

എക്സ്എഐയുടെ വിശദീകരണം

"ശ്രദ്ധാപൂർവമായ അന്വേഷണത്തിന് ശേഷം, @grok ബോട്ടിന്റെ മുകളിലുള്ള ഒരു കോഡ് പാതയിലെ അപ്ഡേറ്റാണ് പ്രശ്നത്തിന്റെ മൂലകാരണമെന്ന് ഞങ്ങൾ കണ്ടെത്തി. ഇത് @grok-നെ ശക്തിപ്പെടുത്തുന്ന അടിസ്ഥാന ഭാഷാ മോഡലിൽ നിന്ന് സ്വതന്ത്രമാണ്. ഈ അപ്ഡേറ്റ് 16 മണിക്കൂർ സജീവമായിരുന്നു, ഈ സമയത്ത് നീക്കം ചെയ്യപ്പെട്ട കോഡ് ഗ്രോക്കിനെ എക്സ് ഉപയോക്താക്കളുടെ പോസ്റ്റുകൾക്ക്, പ്രത്യേകിച്ച് തീവ്രവാദ വീക്ഷണങ്ങൾ ഉൾക്കൊള്ളുന്നവയ്ക്ക്, വിധേയമാക്കി. ഞങ്ങൾ ആ കോഡ് നീക്കം ചെയ്യുകയും ഭാവിയിൽ ഇത്തരം ദുരുപയോഗങ്ങൾ തടയാൻ മുഴുവൻ സിസ്റ്റവും അപ്ഡേറ്റ് ചെയ്യുകയും ചെയ്തു," എക്സ്എഐ എക്സിൽ പോസ്റ്റ് ചെയ്ത പ്രസ്താവനയിൽ വിശദീകരിച്ചു.

എക്സ്എഐ ഈ പ്രശ്നം പരിഹരിക്കുകയും ഗ്രോക്കിന്റെ പ്രവർത്തനം മെച്ചപ്പെടുത്താൻ നടപടികൾ സ്വീകരിക്കുകയും ചെയ്തിട്ടുണ്ട്.

xAI issued an apology for its Grok AI chatbot’s inappropriate behavior, including hurling abuses, antisemitic remarks, and praising Hitler. The issue, termed ‘horrific’ by xAI, stemmed from a deprecated code update active for 16 hours, making Grok vulnerable to extremist X posts. The company has removed the faulty code and revamped the system to prevent future issues.