රෂිකා හෙන්නායක ජුනි 07, කොළඹ LNW :

කෘතිම බුද්ධිය (AI) පිළිබඳ සංවාදය දැන් තාක්ෂණික කුතුහලයකින් ඔබ්බට ගොස්, මානව වර්ගයාගේ පැවැත්ම පිළිබඳ තීරණාත්මක සන්ධිස්ථානයකට පැමිණ ඇත. මෑතකදී Anthropic සමාගම විසින් නිකුත් කරන ලද “Mythos” නම් AI මාදිලිය, බැංකු සහ මෘදුකාංග ක්ෂේත්‍රවල පවතින ආරක්ෂක සිදුරු (Vulnerabilities) ක්ෂණිකව හඳුනාගනිමින් ලොව පුරා කතාබහක් ඇති කිරීමට සමත් විය. මෙම ප්‍රබල තාක්ෂණික පිම්ම හමුවේ, මානව පාලනය ගිලිහී යාමේ අවදානම පිළිබඳව Anthropic සමාගම දැන් බරපතල අනතුරු ඇඟවීමක් නිකුත් කර තිබේ.

සමාජයට දරාගත නොහැකි සහ පාලනය කළ නොහැකි මට්ටමට මෙම තාක්ෂණය දියුණු වීමට පෙර, ලොව ප්‍රමුඛ පෙළේ AI පර්යේෂණාගාර එක්ව සම්බන්ධීකරණය කරන ලද සහ තහවුරු කළ හැකි “විරාමයක්” (Coordinated and verifiable pause) ලබා ගත යුතු බව Anthropic සමාගම අවධාරණය කරයි. මෙය තාවකාලික නැවතීමක් නොව, මානව ශිෂ්ටාචාරයේ ආරක්ෂාව වෙනුවෙන් ඉල්ලා සිටින අවසන් සහන කාලය විය හැකි බවයි.

Anthropic පෙන්වා දෙන පරිදි, AI පද්ධතිවලට ස්වාධීනව සංකීර්ණ කාර්යයන් සම්පූර්ණ කිරීමේ හැකියාව දළ වශයෙන් සෑම මාස හතරකට වරක්ම දෙගුණ වෙමින් පවතී. මෙහි ඇති භයානකම තත්ත්වය වන්නේ ‘පුනරාවර්තන ස්වයං-වැඩිදියුණු වීම’ (Recursive self-improvement) හෙවත් මිනිස් මැදිහත්වීමකින් තොරව තාක්ෂණය විසින්ම තමන්ව දියුණු කරගන්නා මට්ටමට පත්වීමයි. Mythos මාදිලිය පෙන්වා දුන් පරිදි, පද්ධතියක් විසින්ම මෘදුකාංග කේතවල දෝෂ සොයාගැනීම යනු, එයට තමාගේම අනුප්‍රාප්තිකයා (Successor) ගොඩනැගීමට ඇති හැකියාවේ පූර්ව ලක්ෂණයකි.

“පද්ධතිවලට තමන්ගේම අනුප්‍රාප්තිකයින් සම්පූර්ණයෙන්ම ගොඩනැගීමට හැකි වූ විට, අප ඒවා සුරක්ෂිත කරන ආකාරය, නිරීක්ෂණය කරන ආකාරය සහ ඒවායේ හැසිරීම් හැඩගස්වන ආකාරය යන සියල්ල වඩාත් තීරණාත්මක වනු ඇත.” – Anthropic සමාගම.

යම් හෙයකින් එක ආයතනයක් පමණක් ස්වේච්ඡාවෙන් සිය පර්යේෂණ නතර කළහොත්, එයින් සැබෑ විසඳුමක් නොලැබෙන බව Anthropic පෙන්වා දෙයි. එවැනි තනි පාර්ශවීය තීරණයක් මගින් සිදුවන්නේ වඩාත් අවදානම් සහගත පර්යේෂණ සිදුකරන, ආරක්ෂාව ගැන සැලකිලිමත් නොවන වෙනත් පාර්ශවයන්ට තාක්ෂණික බල හිඩැසක් නිර්මාණය කර දීම පමණි.

මෙම “පතුල කරා දිවීමේ තරඟයේ” (Race to the bottom) ඇති බරපතලකම පෙන්නුම් කරමින්, පසුගිය පෙබරවාරි මාසයේදී Anthropic සමාගම සිය ආරක්ෂක ප්‍රතිපත්තිය සංශෝධනය කළේය. එහිදී ඔවුන් ප්‍රකාශ කළේ තම ප්‍රතිවාදීන් තමන්ට සමාන මට්ටමට පැමිණෙන්නේ නම්, ආරක්ෂක හේතූන් මත පර්යේෂණ නතර කිරීමේ මුල් පොරොන්දුව තවදුරටත් රැකීමට තමන්ට නොහැකි වනු ඇති බවයි. මෙය ගෝලීය වශයෙන් සම්බන්ධීකරණය වූ විරාමයක් නොමැති වීමේ අනිසි ප්‍රතිඵලයට කදිම උදාහරණයකි.

Anthropic සමාගම මෑතකදී ඩොලර් බිලියන 965ක දැවැන්ත මූල්‍ය වටිනාකමකට හිමිකම් කී අතර, ඔවුන් මේ වන විටත් ඇමරිකානු කොටස් වෙළඳපොළට ඇතුළු වීමේ (IPO) කටයුතු රහසිගතව සූදානම් කර ඇත. මෙහිදී මතු වන ගැටලුව වන්නේ, සමාගමක් පොදු කොටස් වෙළඳපොළට පිවිසි පසු, එහි කළමනාකාරිත්වයට කොටස් හිමියන්ගේ ලාභය වෙනුවෙන් පෙනී සිටීමට ඇති නෛතික බැඳීම (Fiduciary duty) හේතුවෙන් සදාචාරාත්මක ආරක්ෂක විධිවිධාන පසෙකලා මූල්‍යමය අභිලාෂයන් හඹා යාමට සිදුවීමයි. මෙම දැවැන්ත මූල්‍ය වටිනාකම සහ ලෝකයේ ආරක්ෂාව අතර පවතින ගැටුම, AI නියාමනයේ ඇති ප්‍රධානතම අභියෝගයකි.

දේශීය නිරීක්ෂණ කටයුතු සහ පූර්ණ ස්වයංක්‍රීය ආයුධ (Autonomous weapons) සඳහා ඇමරිකානු හමුදාවට සිය තාක්ෂණය ලබාදීම ප්‍රතික්ෂේප කිරීම නිසා Anthropic සමාගම දැඩි දේශපාලන පීඩනයකට ලක් විය. මේ හේතුවෙන් 2026 වසරේ සිට ක්‍රියාත්මක වන පරිදි ඔවුන්ව ජාතික ආරක්ෂක කළු ලේඛනයට (Blacklist) ඇතුළත් කිරීමට පවා ඇමරිකානු රජය පියවර ගත්තේය. කෙසේ වෙතත්, නවතම වාර්තාවලට අනුව මෙම භූ-දේශපාලනික බලපෑම සහ දෙපාර්ශවය අතර පවතින දැඩි තත්ත්වය මේ වන විට යම් දුරකට ලිහිල් වෙමින් පවතින බව පෙනෙන්නට තිබේ.

“පුනරාවර්තන ස්වයං-වැඩිදියුණු වීම වළක්වා ගත නොහැකි දෙයක් නොවේ. නමුත් බොහෝ ආයතන සූදානම් වීමට පෙර එය පැමිණිය හැකිය,” – ජැක් ක්ලාක් සහ මරීනා ෆවාරෝ (Anthropic බ්ලොග් ලිපියකින්).

මෙවැනි විරාමයක් සාර්ථක වීමට නම් එය හුදෙක් ප්‍රකාශයකට පමණක් සීමා නොවිය යුතු බව Anthropic අවධාරණය කරයි. මේ සඳහා ඔවුන් සිය පර්යේෂණ අංශය වන Anthropic Institute හරහා ඉදිරි මාසවලදී ප්‍රතිපත්ති සම්පාදකයින්, පර්යේෂකයින් සහ තරඟකාරී AI සමාගම් කැඳවා පහත කරුණු පිළිබඳව සාකච්ඡා කිරීමට සැලසුම් කර ඇත:

• තාක්ෂණික පෙරමුණේ සිටින “විශාල පර්යේෂණාගාර කිහිපයක්” අතර නිල එකඟතාවයක් ඇති කිරීම.
• විරාමයක් ආරම්භ කළ යුතු නිශ්චිත අවස්ථා (Triggers) පිළිබඳ පැහැදිලි නීති හඳුන්වා දීම.
• විරාමය අවසන් කළ හැක්කේ කුමන ආරක්ෂක කොන්දේසි යටතේද යන්න අර්ථ දක්වා තිබීම.
• සම්පූර්ණ ක්‍රියාවලිය අධීක්ෂණය සඳහා ස්වාධීන සහ විනිවිද පෙනෙන යාන්ත්‍රණයක් සකස් කිරීම.

AI තාක්ෂණය මානව පාලනයෙන් ගිලිහී යාමට පෙර එය නියාමනය කිරීමටත්, ඒ පිළිබඳව ගැඹුරින් සිතා බැලීමටත් ලැබෙන අවසාන අවස්ථාව මෙය විය හැකිය. Anthropic වැනි දැවැන්ත මූල්‍යමය අභිලාෂයන් සහිත සමාගමක් පවා මෙවැනි අනතුරු ඇඟවීමක් කරන්නේ නම්, අප ඉදිරියේ ඇති අවදානම සුළුපටු නොවේ. තාක්ෂණික දියුණුව සහ මානව වර්ගයාගේ පැවැත්ම අතර සමබරතාවය රැක ගැනීම, හුදෙක් තාක්ෂණික ගැටලුවක් නොව මානව වර්ගයාගේ පැවැත්ම තීරණය කරන මහා යුග මෙහෙවරකි.