ഗൂഗിളിന്റെ ജെമിനി പ്രോ എഐ ടൂൾ ഉപയോഗിച്ച് വ്യാജ ആധാർ, പാൻ കാർഡുകൾ അതിവേഗം തയാറാക്കാനാകുമെന്ന് മുന്നറിയിപ്പ് ഉയർന്നിരിക്കുകയാണ്. ബെംഗളൂരുവിൽ നിന്നുള്ള സാങ്കേതിക വിദഗ്ധൻ ഹർവീൻ സിംഗ് ഛദ്ദ എക്സ് (മുൻ ട്വിറ്റർ) പ്ലാറ്റ്ഫോമിൽ പങ്കുവെച്ച ചിത്രങ്ങളാണ് ഇതിന് ആധാരം. ‘ട്വിറ്റർപ്രീത് സിംഗ്’ എന്ന സാങ്കൽപ്പിക വ്യക്തിയുടെ പേരിൽ അദ്ദേഹം സൃഷ്ടിച്ച തിരിച്ചറിയൽ കാർഡുകൾ, യഥാർത്ഥത്തോട് തുല്യമായി തോന്നുന്ന കൃത്യതയോടെ തയ്യാറാക്കിയവയാണ്.Concerns over Gemini AI’s accuracy; Techie creates fake Aadhaar-PAN cards
ജെമിനി നാനോ ബനാന പ്രോയ്ക്ക് വ്യാജ ആധാർ, പാൻ കാർഡുകൾ, പാസ്പോർട്ട് ഫോട്ടോകൾ എന്നിവ യഥാർത്ഥമെന്നു തെറ്റിദ്ധരിപ്പിക്കുന്ന രീതിയിൽ നിർമ്മിക്കാൻ കഴിവുള്ളതാണെന്നും അതാണ് ഏറ്റവും ആശങ്കജനകമെന്നുമാണ് ഛദ്ദ ചൂണ്ടിക്കാട്ടുന്നത്. ഇത്തരത്തിലുള്ള ചിത്രങ്ങൾ ഒറ്റനോട്ടത്തിൽ തന്നെ യഥാർത്ഥമാണെന്ന് തോന്നുന്നതിനാൽ, തട്ടിപ്പുകൾക്കും ഐഡന്റിറ്റി മോഷണത്തിനും വൻ അവസരം സൃഷ്ടിക്കപ്പെടാമെന്നാണ് വിലയിരുത്തൽ.
ഛദ്ദയുടെ പറയുന്നതനുസരിച്ച്, എഐ ടൂളുകളിലൂടെ ഉണ്ടാവുന്ന ഇത്തരം കൃത്രിമങ്ങൾ തിരിച്ചറിയുന്നതിൽ പരിശോധനാ സംവിധാനങ്ങൾ പലപ്പോഴും പരാജയപ്പെടുന്നു. അദ്ദേഹം പങ്കുവെച്ച ചിത്രങ്ങൾ സാങ്കേതിക വിദഗ്ധരേക്കും കുഴക്കുന്നതിനാൽ, എഐ സൃഷ്ടിക്കുന്ന ദൃശ്യങ്ങളുടെ യഥാർത്ഥത തിരിച്ചറിയുന്നതിനുള്ള സാങ്കേതിക വിദ്യകളും കൂടുതൽ ദൃഢമാക്കേണ്ടതുണ്ടെന്ന് പൊതുവായ ആശങ്ക ഉയരുന്നു.
ജെമിനി വഴി സൃഷ്ടിക്കുന്ന ചിത്രങ്ങളിൽ താഴത്തെ വലത് ഭാഗത്ത് ഗൂഗിൾ ഒരു വാട്ടർമാർക്ക് ചേർക്കുന്നുണ്ടെങ്കിലും, അത് ഫോട്ടോഷോപ്പ് പോലുള്ള ടൂളുകൾ ഉപയോഗിച്ച് എളുപ്പത്തിൽ നീക്കം ചെയ്യാനാകുന്നുവെന്നതാണ് മറ്റൊരു പ്രശ്നം. ഗൂഗിൾ ഡീപ്മൈൻഡ് വികസിപ്പിച്ച അദൃശ്യ ഡിജിറ്റൽ വാട്ടർമാർക്കും സിന്ത്ഐഡി വഴി പരിശോധിക്കാനാകുമെങ്കിലും ഇത് ജെമിനി സൃഷ്ടിച്ച ചിത്രങ്ങൾക്ക് മാത്രം ബാധകമാണ്; ChatGPT പോലുള്ള മറ്റ് എഐ പ്ലാറ്റ്ഫോമുകൾ സൃഷ്ടിക്കുന്ന ദൃശ്യങ്ങൾ ഇതിലൂടെ കണ്ടെത്താനാവില്ല.
വ്യാജ ചിത്രനിർമാണവുമായി ബന്ധപ്പെട്ട ആശങ്ക ജെമിനിയോടു മാത്രം ചുരുങ്ങുന്നതല്ല. ഇമേജ് ജനറേഷൻ സൗകര്യം ആദ്യം അവതരിപ്പിച്ച ChatGPT-ക്കും ഇതുമായി ബന്ധപ്പെട്ട വെല്ലുവിളികൾ നേരിടേണ്ടി വന്നിട്ടുണ്ട്. എന്നാൽ യാഥാർത്ഥ്യത്തോട് കൂടുതൽ അടുപ്പമുള്ള ചിത്രങ്ങൾ നിർമ്മിക്കാൻ ജെമിനി നാനോ ബനാന പ്രോയ്ക്ക് കഴിയുന്നതായാണ് പുതിയ ആശങ്ക.
എന്റെ പോസ്റ്റിന്റെ ലക്ഷ്യം ഭയപ്പെടുത്തൽ അല്ല; വിവരവത്കരണമാണ്,” എന്നാണ് ഛദ്ദ വ്യക്തമാക്കുന്നത്. “എഐ മോഡലുകൾ എത്ര വേഗത്തിലും കുറഞ്ഞ പിഴവുകളോടും പ്രവർത്തിക്കുന്നുവെന്ന് എല്ലാവർക്കും കാണിക്കണമെന്നായിരുന്നു എന്റെ ശ്രമം. മോഡലുകളുടെ ശേഷി ഉയരുന്ന അതേ വേഗതയിൽ തന്നെ നമ്മുടെ പരിശോധനാ സംവിധാനങ്ങളും മുന്നോട്ട് പോകേണ്ടത് നിർണായകമാണ്.”
