වේගයෙන් දියුණු වන කෘතිම බුද්ධි (AI) තාක්ෂණය හමුවේ මිනිසා සතු පාලනය ගිලිහී යාමේ අවදානමක් පවතින බව පෙන්වා දෙමින්, එම පද්ධතිවල වැඩිදුර සංවර්ධන කටයුතු තාවකාලිකව නතර කිරීමට හෝ වේගය අඩු කිරීමට එකඟ වන ලෙස ඇන්ත්රොපික් ආයතනය ප්රමුඛ පෙළේ AI සමාගම්වලින් ඉල්ලා සිටී. ඔවුන් පෙන්වා දෙන්නේ, ඉතා කෙටි කාලයකදී සංකීර්ණ කාර්යයන් සිදු කිරීමට AI පද්ධතිවලට ඇති හැකියාව ඉහළ යාම හේතුවෙන්, ලෝකයට එම සංවර්ධන කටයුතු පාලනය කර ගැනීමේ අවස්ථාවක් තිබීම යහපත් බවයි.
ඇන්ත්රොපික් ආයතනය අනතුරු අඟවන්නේ, වර්තමාන ප්රවණතා අනුව සහ ප්රමාණවත් පරිගණක බලයක් ලැබුණහොත්, අනාගත AI පද්ධතිවලට තමන් විසින්ම තමන්ව වඩාත් දියුණු කර ගැනීමේ (Recursive self-improvement) හැකියාවක් ලැබිය හැකි බවයි. මෙය විද්යාව සහ සෞඛ්ය ක්ෂේත්රවලට විශාල ප්රතිලාභ ගෙන දිය හැකි වුවද, ස්වයංක්රීයව ක්රියාත්මක වන මෙම පද්ධති කෙරෙහි මිනිසා සතු පාලනය ගිලිහී යාමේ අවදානමක් පවතින බව එම ආයතනය පවසයි.
කෙසේ වෙතත්, මෙම කරුණ සම්බන්ධයෙන් කර්මාන්තය තුළ එකඟතාවක් නොමැත. ඕපන් ඒ.අයි (OpenAI) ආයතනය ප්රකාශ කරන්නේ, තනි සමාගම්වලට වඩා ප්රජාතන්ත්රවාදී රජයන් විසින් AI සංවර්ධනය සඳහා රීති, ආරක්ෂිත ක්රමවේද සහ වගවීමේ යාන්ත්රණ තීරණය කළ යුතු බවයි. එසේම, කිසිදු තනි සමාගමකට හෝ පර්යේෂණාගාරයකට නවෝත්පාදනයේ වේගය තීරණය කිරීමට ඉඩ නොතැබිය යුතු බව ඔවුන් අවධාරණය කරයි.
සයිබර් ආරක්ෂාව සම්බන්ධයෙන් පවතින උත්සුකයන්ද මේ වන විට වැඩි වෙමින් පවතී. ටොරොන්ටෝ විශ්වවිද්යාලයේ පර්යේෂකයින් පෙන්වා දී ඇත්තේ, AI මෙවලම් භාවිතයෙන් පද්ධති පුරා පැතිරෙමින් ස්වයංක්රීයව හැක් කිරීමේ උපාය මාර්ග වෙනස් කර ගත හැකි “වර්ම්” (Worm) වැනි මෘදුකාංග නිර්මාණය කළ හැකි බවයි. මෙම තත්ත්වයන් හමුවේ ඇන්ත්රොපික් ආයතනය යෝජනා කරන්නේ, සියලුම ප්රමුඛ පෙළේ ආයතන එකඟතාවකට පැමිණ ගෝලීය රාමුවක් හරහා මෙම සංවර්ධන වේගය පාලනය කිරීම වැදගත් බවයි. එය නොමැතිව තනි ආයතනයක් පමණක් සංවර්ධනය නැවැත්වුවහොත්, අනෙක් සමාගම්වලින් ඊට තරඟකාරී පීඩනයක් එල්ල විය හැකි බව ඔවුන් තවදුරටත් සඳහන් කරයි.
