"ഡീപ് ഫേക്ക് ': ആള്‍മാറാട്ടവും ആശങ്കകളും

നാം കണ്‍മുന്നില്‍ കാണുന്നത് വിശ്വസിക്കണമെങ്കില്‍ ഇനി നാം മാത്രം വിചാരിച്ചാല്‍ പോരാ. ആ കാണുന്ന കാഴ്ചകളോ ദൃശ്യങ്ങളോ ഒക്കെ നിര്‍മിത ബുദ്ധിയുടെ സഹായത്തോടെ നിര്‍മിക്കപ്പെട്ട ഡീപ് ഫേക്ക് എന്ന വ്യാജദൃശ്യ നിര്‍മാണത്തിന്റെ ഭാഗമാണോയെന്ന് ഇനിയും കണ്ടുപിടിക്കപ്പെടാത്ത അതിനേക്കാള്‍ നൂതനമായ സാങ്കേതികവിദ്യയുടെ സഹായം കൂടി വേണ്ടിവന്നേക്കാം. ഒറ്റവാക്കില്‍ പറഞ്ഞാല്‍ സ്വന്തം കണ്ണിനെപ്പോലും വിശ്വസിക്കാനാകാത്ത തരത്തില്‍ സാങ്കേതികത്തികവാര്‍ന്ന ദൃശ്യങ്ങള്‍ മനുഷ്യന്റെ ജീവിതത്തെ അസ്വസ്ഥപ്പെടുത്തുകയാണ്. നിര്‍മിതബുദ്ധിയുടെ കണ്ടുപിടിത്തം ഒരേസമയം നമുക്ക് അത്ഭുതവും ആശ്രയവും സമ്മാനിച്ചപ്പോഴും പലരീതിയിലും അതിന്റെ ദുരുപയോഗം, ഗുണത്തേക്കാളേറെ മുന്നിലായി ഉയര്‍ന്നുനിന്നിട്ടുണ്ട്.

മനുഷ്യരാശിയുടെ അന്തകനാകുമോ?

നിര്‍മിതബുദ്ധിയുടെയും റോബോട്ടിക്‌സിന്റെയും ഡീപ് ലേണിംഗിന്റെയും ഒക്കെ ശീതളിമയില്‍ ലോക പുരോഗതി ദിനംപ്രതി കണ്‍മുന്നില്‍ തന്നെ കണ്ടുകൊണ്ട് പുളകം കൊള്ളുകയാണ് ശാസ്ത്രലോകവും ലോകത്തെ ജനങ്ങളും. കഴിഞ്ഞ പത്തോ ഇരുപതോ വര്‍ഷങ്ങളില്‍ ശാസ്ത്ര സാങ്കേതിക-വിവര സാങ്കേതിക രംഗത്തുണ്ടായ കുതിച്ചുചാട്ടം അത്ഭുതാവഹമാണ്. ഇപ്പോഴും ഓരോ മിനുട്ടിലും നാം “അപ്ഡേറ്റ്’ ചെയ്യപ്പെട്ടുകൊണ്ടിരിക്കുന്നു. “നിര്‍മിതബുദ്ധി മനുഷ്യരാശിക്കു തന്നെ പകരക്കാരനാകുമോയെന്ന് ഞാന്‍ ഭയപ്പെടുന്നു’ എന്നാണ് സ്റ്റീഫന്‍ ഹോക്കിംഗ് അഭിപ്രായപ്പെട്ടത്. സാങ്കേതിക രംഗത്തെ ഈ കുതിച്ചുചാട്ടത്തിന്റെ പാശ്ചാത്തലത്തില്‍ നാം എല്ലാം നേടിയെന്ന ചിന്തകള്‍ക്ക് പ്രസക്തിയില്ലാതാവുന്ന ചില വാര്‍ത്തകളാണ് അടുത്തിടെ വന്നുകൊണ്ടിരിക്കുന്നത്. മനുഷ്യനെ മറ്റു ജീവികളില്‍ നിന്ന് വ്യത്യസ്തനാക്കുന്നത് അവന്റെ ചിന്തിക്കാനുള്ള കഴിവാണെന്ന് എല്ലാവര്‍ക്കും അറിയാം. മനുഷ്യനെപ്പോലെ മറ്റൊരു ജീവിക്കും സാഹചര്യങ്ങള്‍ക്കനുസരിച്ച് ചിന്തിക്കാനോ അതിനനുസരിച്ച് പ്രവര്‍ത്തിക്കാനോ കഴിയില്ല. അതുകൊണ്ട് തന്നെയാണ് മനുഷ്യന് മറ്റെല്ലാ ജീവികളെയും തങ്ങളുടെ കാല്‍ക്കീഴില്‍ കൊണ്ടുവന്ന് ലോകത്തെ ഭരിക്കാന്‍ കഴിയുന്നതും. ആ മനുഷ്യന്റെ ചിന്തയെയാണ് നിര്‍മിതബുദ്ധി വെല്ലുവിളിക്കുന്നത്. മനുഷ്യ ചിന്തകളുടെ ഉയര്‍ന്ന ആധിപത്യത്തിനെപ്പോലും മറികടക്കാന്‍ നിര്‍മിത ബുദ്ധിക്ക് കഴിയുന്ന അവസ്ഥ മനുഷ്യന്റെ തിരിച്ചറിവ് എന്ന സ്വഭാവ സവിശേഷതയും അതിനേക്കാള്‍ പ്രധാനമായ, സാമൂഹിക ബോധവും ചോദ്യം ചെയ്യപ്പെടുന്ന അവസ്ഥയാണ് സംജാതമാക്കുന്നത്. അതിന്റെ ഏറ്റവും ഒടുവിലത്തെ ഉദാഹരണമാണ് ഡീപ് ഫേക്ക് എന്ന നിര്‍മിത ബുദ്ധിയില്‍ കൃത്രിമമായി നിര്‍മിക്കപ്പെട്ട ഫോട്ടോകള്‍, വീഡിയോകള്‍, ശബ്ദം എന്നീ ഉള്ളടക്കങ്ങള്‍. നിര്‍മിതബുദ്ധിയെ പ്രതിനിധാനം ചെയ്യുന്ന ഡീപ് ലേണിംഗ് (Deep Learning) എന്ന വാക്കും, വ്യാജം, വ്യാജന്‍ എന്ന അര്‍ഥം വരുന്ന “ഫേക്ക്’ (Fake) എന്ന വാക്കും ചേര്‍ന്നാണ് ഡീപ് ഫേക്ക് എന്ന വാക്ക് ഉണ്ടായിരിക്കുന്നത്. അടുത്തിടെ പ്രധാനമന്ത്രി നരേന്ദ്ര മോദി ഗര്‍ബ നൃത്തം കളിക്കുന്ന വീഡിയോ വൈറലായിരുന്നു. എന്നാല്‍ മണിക്കൂറുകള്‍ക്കു ശേഷമാണ് അത് ഒറിജിനല്‍ അല്ലെന്നും ഡീപ് ഫേക്ക് കൊണ്ട് ഉണ്ടാക്കിയെടുത്തതാണെന്നും തിരിച്ചറിയപ്പെടുന്നത്. ദില്ലിയില്‍ ബി ജെ പി ആസ്ഥാനത്ത് പാര്‍ട്ടിയുടെ ദീപാവലി മിലന്‍ പരിപാടിയില്‍ പ്രധാനമന്ത്രി തന്നെ ഡീപ് ഫേക്കിനെ ജാഗ്രതയോടെ നേരിടണമെന്നും അല്ലെങ്കില്‍ അത് അരാജകത്വം സൃഷ്ടിക്കുമെന്നും പ്രഖ്യാപിക്കുകയുണ്ടായി. നിര്‍മിത ബുദ്ധിയുടെ ഈ നിര്‍ദോഷമെന്ന് തോന്നാവുന്ന, കൗതുകത്തിനായി നിര്‍മിക്കപ്പെടുന്ന ഇത്തരം വീഡിയോകള്‍ എങ്ങനെയാണ് സമൂഹത്തിനും വ്യക്തികള്‍ക്കും ഭീഷണിയാകുന്നത്? വിശദമായി അവ ചര്‍ച്ച ചെയ്യേണ്ടതുണ്ട്.

എന്താണ് ഡീപ് ഫേക്ക്?

ആയിരക്കണക്കിന് ഡാറ്റാ ബേസുകളില്‍ നിന്ന് ആവശ്യത്തിന് വിവരങ്ങള്‍ ശേഖരിച്ചാണ് നിര്‍മിതബുദ്ധി അല്‍ഗോരിതം പ്രവര്‍ത്തിക്കുന്നത്. അതുപയോഗിച്ച് മെഷീന്‍ ലേണിംഗിലൂടെയാണ് ഡീപ് ഫേക്ക് നിര്‍മിക്കപ്പെടുന്നത്. ഒരു വ്യക്തിയുടെ ശരീരത്തിന്റെ ഓരോ അണുവിന്റെയും ചലനങ്ങള്‍ അത്രമേല്‍ ആഴത്തില്‍ മനസ്സിലാക്കിയാണ് വീഡിയോ തയ്യാറാക്കുന്നത്. മുഖത്തെ പേശികളുടെ ചലനങ്ങള്‍, ശബ്ദം, ചുണ്ടിന്റെയും കണ്ണിന്റെയും അനക്കങ്ങള്‍ എന്നിങ്ങനെ എല്ലാ സൂക്ഷ്മമായ കാര്യങ്ങളും സ്വാപ് ചെയ്താണ് ഡീപ് ഫേക്കുകള്‍ നിര്‍മിക്കപ്പെടുന്നത്. യാതൊരു വിധത്തിലും വ്യത്യാസം തോന്നാത്ത തരത്തില്‍ അത്രമേല്‍ കൃത്യമായാണ് ഇവ നിര്‍മിക്കപ്പെടുന്നത് എന്നതിനാല്‍ ഈ രംഗത്തെ ഒരു സ്‌പെഷ്യലിസ്റ്റിന് പോലും ഒറ്റനോട്ടത്തില്‍ ഇത് ഒറിജിനല്‍ ആണോ ഫേക്ക് ആണോ എന്ന് തിരിച്ചറിയാന്‍ കഴിയില്ല. അടുത്തിടെ നടി രശ്മിക മന്ദാനയുടെ അത്തരത്തില്‍ ഒരു വീഡിയോ സമൂഹ മാധ്യമങ്ങളില്‍ പ്രചരിക്കുകയും ചെയ്തിരുന്നു.

പെരുകുന്ന പോണ്‍ വീഡിയോകള്‍

ഡീപ് ഫേക്ക് ഏറ്റവുമധികം ഉപയോഗിക്കുന്ന മേഖലയാണ് പോണ്‍ വീഡിയോകള്‍ നിര്‍മിക്കുന്ന ഇടങ്ങള്‍. ഡീപ് ഫേക്കിന്റെ ആദ്യരൂപം 2017 മുതല്‍ തന്നെ നിലവിലുണ്ട്. ചില പോണ്‍ സൈറ്റുകളില്‍ ഹോളിവുഡ് നടികളുടെ ഫോട്ടോകള്‍ സ്വാപ് ചെയ്യപ്പെടുകയും അത് വലിയ രീതിയില്‍ പ്രചരിക്കുകയും ചെയ്തിരുന്നു. എന്നാല്‍ നിര്‍മിതബുദ്ധി ഏറ്റവും ക്രിയാത്മകമായി ഉപയോഗിക്കപ്പെട്ട അവസാനത്തെ രണ്ട് വര്‍ഷങ്ങളില്‍ ഇതുപയോഗിച്ചുള്ള പോണ്‍ വീഡിയോ നിര്‍മാണം പലമടങ്ങ് വര്‍ധിച്ചതായി കണക്കുകള്‍ സൂചിപ്പിക്കുന്നു. 2023ല്‍ മാത്രം ഒന്നര ലക്ഷത്തിനടുത്ത് വീഡിയോകളാണ് ഇത്തരത്തില്‍ നിര്‍മിക്കപ്പെട്ടതെന്നും സൈറ്റുകളില്‍ അപ്്ലോഡ് ചെയ്യപ്പെട്ടതെന്നും കണക്കുകള്‍ സൂചിപ്പിക്കുന്നു.

ആള്‍മാറാട്ടത്തിന്റെ ആധുനികമുഖം

ആള്‍മാറാട്ടം സമൂഹത്തില്‍ എത്രമാത്രം അരാജകത്വമാണ് സൃഷ്ടിക്കുന്നത്, അത്ര തന്നെ ഭീഷണിയാണ് ഡീപ് ഫേക്കിലൂടെയും ഉണ്ടാകുന്നത്. ഒരാളുടെ മുഖഭാവം പോലും പൂര്‍ണമായും മാറ്റി മറ്റൊരാളുടെ ഐഡന്റിറ്റിയില്‍ അയാള്‍ ചെയ്യുന്നതായി വരുത്തിത്തീര്‍ക്കുന്നത് ആള്‍മാറാട്ടത്തിന്റെ ഏറ്റവും ആധുനികമായ മുഖമാണ്. വിനോദപരമായ കാര്യങ്ങളില്‍ അവ ഉപയോഗിക്കപ്പെടുമ്പോള്‍ ഉണ്ടാകുന്ന ലാഘവമല്ല അത് മറ്റുള്ളവരുടെ വ്യക്തിസ്വാതന്ത്ര്യത്തെയും രാജ്യസുരക്ഷയെയും വരെ ബാധിക്കുന്ന തലത്തിലേക്ക് മാറുമ്പോള്‍ സംഭവിക്കുന്നത്.

കുറ്റകൃത്യങ്ങള്‍ പെരുകും 

മറ്റൊരാളുടെ ഫേക്ക് ഐഡന്റിറ്റിയില്‍ എന്തും ചെയ്യാം എന്ന അവസ്ഥയില്‍ കുറ്റകൃത്യങ്ങളുടെ എണ്ണത്തില്‍ സ്വാഭാവികമായും മാറ്റം വരാം. അതിനേക്കാള്‍ ഗൗരവമായതാണ് ഒരാള്‍ ചെയ്ത കുറ്റകൃത്യം ഡീപ് ഫേക്കിന്റെ സഹായത്തോടെ മറ്റൊരാളുടെ പേരിലേക്ക് എളുപ്പത്തില്‍ മാറ്റാന്‍ കഴിയും എന്ന കാര്യം. ഇതുവഴി അന്വേഷണത്തെ വഴിതെറ്റിക്കാനും യഥാര്‍ഥ പ്രതിക്ക് രക്ഷപ്പെടാനും കഴിയും എന്ന ഗുരുതരമായ അവസ്ഥകൂടി ഉണ്ടായെന്നുവരാം.

 വിശ്വസിക്കാനാകാത്ത കണ്ണുകള്‍

സാങ്കേതികവിദ്യയുടെ പല സംഭാവനകളും നാം പറയാറുള്ള നെല്ലിക്കയുടെ പഴഞ്ചൊല്ല് പോലെയാണ്. ആദ്യം അതിന്റെ ശീതളിമയില്‍ നാം അവയെ ആഘോഷിക്കും. പിന്നെ അവ നമ്മെ അത്ഭുതപ്പെടുത്തും. പിന്നീട് അവയെ തെറ്റായ വഴിയിലൂടെ ഉപയോഗിക്കപ്പെടാന്‍ തുടങ്ങുമ്പോള്‍ നമ്മുടെ നിയന്ത്രണത്തില്‍ പോലും അവ നിന്നുവെന്ന് വരില്ല. ഡീപ് ഫേക്കും അത്തരത്തില്‍ ഒന്നാണ്. അനന്തമാണ് നിര്‍മിതബുദ്ധിയുടെ സാധ്യതകള്‍. പക്ഷേ, ഇത്തരത്തില്‍ മനുഷ്യന്റെ വ്യക്തിസ്വാതന്ത്ര്യത്തിലേക്കും ഫേക്ക് ഐഡന്റിറ്റി വഴി സമൂഹത്തിലെ അവരുടെ വിലയിടിക്കുന്ന തരത്തിലുള്ള പ്രവര്‍ത്തനങ്ങളിലേക്കും സര്‍വോപരി മറ്റു വിധ്വംസക പ്രവര്‍ത്തനങ്ങളിലേക്കും നയിക്കപ്പെടുമ്പോള്‍ നാം ഒരുകാര്യം ചിന്തിക്കണം, ഈ സാങ്കേതികവിദ്യകള്‍ നമുക്കെന്തിനാണെന്ന്. സ്വന്തം കണ്ണിനെപ്പോലും വിശ്വസിക്കാന്‍ കഴിയാതെ വരുന്ന ഈ അവസ്ഥയില്‍ മനുഷ്യനായി നമുക്കെങ്ങനെ ജീവിക്കാന്‍ കഴിയും എന്നതും പ്രസക്തമായ ചോദ്യമാണ്.
(ലേഖകന്‍ കൊച്ചി സര്‍വകലാശാല, സെന്റര്‍ ഫോര്‍ സയന്‍സ് ഇന്‍ സൊസൈറ്റിയില്‍ അസിസ്റ്റന്റ് പ്രൊഫസറാണ്)