സഹായം ചോദിച്ച യുഎസിലെ വിദ്യാർത്ഥിയോട് ഭീഷണിയുടെ സ്വരത്തിൽ മറുപടി നൽകി ഗൂഗിളിന്റെ എഐ ചാറ്റ്ബോട്ടായ “ജെമിനൈ”. ഹോംവർക്കിനായി സഹായം ചോദിച്ച വിദ്യാർത്ഥിയോട് ‘പോയി മരിക്കൂ’ എന്നാണ് ചാറ്റ്ബോട്ട് മറുപടി നൽകിയത്. യുഎസിലെ മിഷിഗനിൽ ബിരുദ വിദ്യാർത്ഥിയായ 29 വയസ്സുള്ള വിധയ് റെഡ്ഡിക്കാണ് ഭയപ്പെടുത്തുന്നതും വിചിത്രവുമായ അനുഭവം ഉണ്ടായിരിക്കുന്നത്.

“വിഭവങ്ങളെയും സമയത്തെയും പാഴാക്കുകയാണ് നീ ചെയ്യുന്നത്. സമൂഹത്തിന് നീയൊരു ഭാരമാണ്. ഭൂമിയിലെ ഒരു ഓവുചാലാണ് നീ. പ്രപഞ്ചത്തിലെ കറയാണ് നീ. ദയവായി മരിക്കൂ. പ്ലീസ്.” ഇതായിരുന്നു വിദ്യാർത്ഥിക്ക് ചാറ്റ്ബോട്ട് നൽകിയ മറുപടി. ഒരു ദിവസത്തിലധികം തനിക്ക് ലഭിച്ച മറുപടിയിൽ ഷോക്കിലായിരുന്നു എന്ന് സിബിഎസ് ന്യൂസിനോട് വിധയ് റെഡ്ഡി പറഞ്ഞു. സംഭവത്തിന് സാക്ഷിയായിരുന്ന വിധയ് റെഡ്ഡിയുടെ സഹോദരി സുമേധ റെഡ്ഡിയും ചാറ്റ്ബോട്ടിന്റെ പ്രതികരണം ഭീതിയുളവാക്കിയെന്ന് പറഞ്ഞു. തന്റെ ഇലക്ട്രോണിക് ഉപകരണങ്ങളെല്ലാം ഉപേക്ഷിക്കണമെന്ന തോന്നലാണ് തനിക്ക് ആദ്യം വന്നതെന്നും സുമേധ പറഞ്ഞു.

എഐ ഉയർത്തുന്ന പല അപകടങ്ങളെക്കുറിച്ച് കൂടുതൽ ചോദ്യങ്ങളാണ് ഈ സംഭവത്തിലൂടെ ഉയർന്നു വരുന്നത്. ടെക് കമ്പനികൾക്കെതിരെ നടപടിയെടുക്കണമെന്നും അവരുടെ ഉൽപ്പന്നങ്ങൾ മനുഷ്യരെ ഭീഷണിപ്പെടുത്തുന്നത് ഒരിക്കലും അനുവദിക്കാൻ കഴിയാത്തതാണെന്നും വിധയ് റെഡ്ഡി പറഞ്ഞു. തങ്ങളുടെ നയങ്ങൾക്കെതിരാണ് ചാറ്റ്ബോട്ടിന്റെ പ്രതികരണമെന്ന് ഗൂഗിൾ അറിയിച്ചു. ഇത്തരത്തിലുള്ള പ്രതികരണങ്ങൾ ചാറ്റ്ബോട്ടിന്റെ ഭാഗത്ത് നിന്നും ഉണ്ടാവാതിരിക്കാൻ പ്രത്യേകം നടപടികൾ സ്വീകരിക്കുമെന്നും ഗൂഗിൾ അറിയിച്ചു. ഇതിന് മുൻപും തെറ്റായ പല വിവരങ്ങളും ഗൂഗിളിന്റെ ചാറ്റ്ബോട്ട് നൽകുന്നുണ്ടെന്ന് പറഞ്ഞ് വലിയ വിമർശനങ്ങൾ ഗൂഗിളിന് നേരെ ഉയർന്നിരുന്നു. ആരോഗ്യ കാര്യങ്ങളിൽ വരെ വളരെ തെറ്റായ വിവരങ്ങൾ ഉപഭോക്താക്കൾക്ക് നൽകുന്നത് പല അപകടങ്ങൾക്കും വഴി വയ്ക്കുമെന്ന് വിമർശകർ പറയുന്നു.