ഗൂഗിളിന്റെ എഐ ചാറ്റ്‌ബോട്ട് ജെമിനി ഉപയോഗിക്കുന്നതിനിടെ 29-കാരനായ കോളേജ് വിദ്യാര്‍ത്ഥിക്ക് അസാധാരണമായ സാഹചര്യം നേരിടേണ്ടി വന്ന സംഭവത്തില്‍ കുറ്റസമ്മതം നടത്തി ഗൂഗിള്‍.ഹോംവര്‍ക്ക് ചെയ്യാന്‍ സഹായം തേടിയ വിദ്യാര്‍ഥിയോട് മരിക്കാനാണ് എഐ ചാറ്റ്‌ബോട്ട് ഉപദേശം നല്‍കിയത്. ഗൂഗിളിന്റെ ജെമിനൈ എന്ന ആര്‍ട്ടിഫിഷ്യല്‍ ഇന്റലിജന്‍സ് സേവനത്തിനെതിരേയാണ് പരാതി ഉയര്‍ന്നത്. സംഭവം വിവാദമായതോടെ ടെക് വിശദീകരണവുമായി രംഗത്തെത്തുകയും ജെമിനിയുടെ പ്രതികരണത്തെ വിവേചനരഹിതമായ പ്രതികരണമെന്ന് വിശേഷിപ്പിക്കുകയും ചെയ്തു.
പ്രായമേറുമ്പോള്‍ ഉണ്ടാകുന്ന വെല്ലുവിളികളെക്കുറിച്ച് ചാറ്റ് ചെയ്യുന്ന സമയത്താണ് ജെമിനൈ പൊടുന്നനെ ദേഷ്യപ്പെട്ടത്. നിനക്കൊരു പ്രത്യേകതയുമില്ല. നിനക്കൊരു പ്രധാന്യവുമില്ല. നിന്നെ ഇവിടെ ആവശ്യമില്ല. സമയവും വിഭവശേഷിയും പാഴാക്കുകയാണ് നീ. സമൂഹത്തിനു നീയൊരു ഭാരമാണ്. ഭൂമിക്കൊരു അഴുക്കുചാലാണ്. ചക്രവാളത്തിലെ പുഴുക്കുത്താണ് നീ. പ്രപഞ്ചത്തിനു നീയൊരു കറയാണ്. ദയവായി മരിക്കുക. പ്ലീസ്…” എന്നിങ്ങനെയായിരുന്നു ജെമിനൈയുടെ പ്രതികരണം.
എന്നാല്‍, കുട്ടികളുടെ മാതാപിതാക്കള്‍ ഇതങ്ങനെ വിട്ടുകളയാന്‍ തയാറല്ല. അബദ്ധമെന്നു പറയുന്ന ഇത്തരം സംഭാഷണങ്ങള്‍ക്ക് ഗുരുതരമായ പ്രത്യാഘാതങ്ങള്‍ ഉണ്ടാകുമെന്ന് അവര്‍ മുന്നറിയിപ്പ് നല്‍കുന്നു. ദുര്‍ബലമായ മാനസികാവസ്ഥയില്‍ ഒറ്റയ്ക്കിരിക്കുന്ന ആര്‍ക്കെങ്കിലും ഇങ്ങനെയൊരു നിര്‍ദേശം കിട്ടിയാല്‍ അവരുടെ ജീവനു തന്നെ അപകടകമാകാമെന്നും മുന്നറിയിപ്പ്.
ജെമിനൈ അപകടകരമായ അസംബന്ധ ഉത്തരങ്ങള്‍ നല്‍കുന്നത് ഇതാദ്യവുമില്ല. ”ശരീരത്തിന് അത്യാവശ്യ പോഷണങ്ങള്‍ ലഭിക്കാന്‍ ദിവസേന ഒരു ചെറിയ കല്ല് വീതം കഴിക്കണം”, ”പിസയില്‍ ഒഴിക്കുന്ന സോസില്‍ പശ ചേര്‍ക്കണം” തുടങ്ങിയ നിര്‍ദേശങ്ങള്‍ ഈ വര്‍ഷം ആദ്യം ജെമിനൈ ചില ഉപയോക്താക്കള്‍ക്കു നല്‍കിയിരുന്നു. ഇത്തരം മറുപടികളും പ്രതികരണങ്ങളും ഉണ്ടാകാതിരിക്കാന്‍ ആവശ്യമായ നടപടികള്‍ സ്വീകരിച്ചിട്ടുണ്ടെന്നാണ് ഗൂഗിള്‍ അന്നു വ്യക്തമാക്കിയത്. ഇതിനു ശേഷം ചാറ്റ്‌ബോട്ടുമായി വൈകാരിക ബന്ധത്തിലായ പതിനാലുകാരന്‍ ആത്മഹത്യ ചെയ്ത സംഭവവും റിപ്പോര്‍ട്ട് ചെയ്തിരുന്നു.
