மனித குலத்தை அழிக்கும் AI ? அதிர்ச்சி கொடுத்த AI தலைவர்கள்! உண்மையில் என்ன நடக்கிறது?

AI துறையில் Self-improving Superintelligence நோக்கி வேகமாக நகரும் வளர்ச்சி மனித குலத்திற்கு அச்சுறுத்தலாக மாறக்கூடும் என முன்னாள் Anthropic நிபுணர் Jacob Coxon எச்சரித்தது விவாதத்தை கிளப்பியது. இதைத் தொடர்ந்து CEO Dario Amodei, AI பாதுகாப்பு நடவடிக்கைகள் அவசரமென வலியுறுத்த, Sam Altman, Elon Musk, Satya Nadella போன்ற தலைவர்களும் AI safety குறித்து ஒருமித்த கவலை வெளியிட்டுள்ளனர்.

ஜிபிலி மாடல், 80s ட்ரெண்ட் என ப்ராம்ட்களால் உருவாகும் AI பேண்டஸி புகைப்படங்கள் இணையத்தில் ட்ரெண்டாகி வரும் சூழலில், இன்னும் சில ஆண்டுகளில் AI மனித குலத்துக்கு மிகப்பெரிய அச்சுறுத்தலாக மாறக்கூடும் என்ற எச்சரிக்கைகளும் அவ்வப்போது வெளியாகி வருகின்றன. இந்நிலையில், AI மனித குலத்தையே அழித்துவிடும் என்பதற்கு AI தொழில்நுட்ப நிறுவனங்களின் தலைவர்களே ஆமாம் போட்டிருப்பது போல சமூக வலைதளங்களில் விவாதங்கள் எழுந்துள்ளன. ஆனால், உண்மையில் முன்னணி AI நிறுவனங்களின் தலைவர்கள் கூறியிருப்பது, என்ன என்பதை பார்க்கலாம். AI தொழில்நுட்பத்திலும், அது குறித்த ஆராய்ச்சியிலும் ஈடுபட்டு வரும் அமெரிக்காவின் முன்னணி AI நிறுவனமான Anthropic-ல் தகவல் தொழில்நுட்ப வல்லுநராகப் பணியாற்றிய Jacob Coxon, அந்நிறுவனத்தில் இருந்து விலகிய பின்னர் சமூக வலைதளத்தில் வெளியிட்ட பதிவு, AI உலகின் பாதுகாப்பு குறித்த விவாதத்தை மீண்டும் தீவிரப்படுத்தியுள்ளது. தனது பதிவில், AI நிறுவனங்கள் தற்போது Self-improving Superintelligence எனப்படும் தன்னைத்தானே மேம்படுத்திக்கொள்ளும் திறன் கொண்ட அதிநவீன AI-யை நோக்கி வேகமாக நகர்ந்து வருவதாகவும், AI-யின் வளர்ச்சி கட்டுப்பாடின்றி தொடர்ந்தால் எதிர்காலத்தில் மனித குலத்திற்கு மிகப்பெரிய ஆபத்து ஏற்படக்கூடும் என்றும் Coxon எச்சரித்திருந்தார். Coxon-ன் இந்த கருத்து இணையத்தில் பெரும் விவாதத்தை ஏற்படுத்தியது.

Jacob Coxon இந்நிலையில், செய்தியாளர்களைச் சந்தித்த Anthropic நிறுவனத்தின் CEO Dario Amodei-யிடம், Jacob Coxon-ன் கருத்து குறித்து கேள்வி எழுப்பப்பட்டது. அதற்கு பதிலளித்த Amodei, AI வளர்ச்சியின் வேகம் குறித்து கவலை தெரிவித்ததுடன், AI நிறுவனங்கள் அதன் பாதுகாப்பு நடவடிக்கைகளுக்கு அதிக முக்கியத்துவம் அளிக்க வேண்டும் என வலியுறுத்தினார். சமீப காலமாக AI-யின் திறன்கள் வேகமாக அதிகரித்து வருகின்றன. இதனை கருத்தில் கொண்டு, AI நிறுவனங்கள் வளர்ச்சியுடன் பாதுகாப்பு நடவடிக்கைகளையும் இணைத்து முன்னெடுக்க வேண்டும் என்றும் அவர் தெரிவித்துள்ளார். AI-யை சரியான முறையில் பயன்படுத்தினால் அதன் பலன்களைப் பெற முடியும் என்றாலும், இந்த தொழில்நுட்பம் தவறான நபர்களின் கைகளுக்குச் செல்லும்போது ஆபத்துகள் ஏற்படக்கூடும் என்றும் Amodei எச்சரித்துள்ளார். மேலும், போதுமான பாதுகாப்பு நடவடிக்கைகள் மேற்கொள்ளப்படாவிட்டால், அடுத்த 6 முதல் 12 மாதங்களுக்குள் AI agents-ன் திறன் மிகவும் அதிகரித்து, இணையத்தின் மீது மிகப்பெரிய தாக்கத்தை ஏற்படுத்தக்கூடிய நிலையை எட்டக்கூடும் என்ற ஒரு சாத்தியக்கூறையும் அவர் சுட்டிக்காட்டியுள்ளார். எனவே, AI நிறுவனங்களுக்கு கிடைக்கும் கூடுதல் நேரத்தை AI safety-ஐ மேம்படுத்துவதற்கும், எதிர்கால அபாயங்களைத் தடுப்பதற்குமான பாதுகாப்பு நடவடிக்கைகளை உருவாக்குவதற்கும் பயன்படுத்த வேண்டும் என்றும் அவர் வலியுறுத்தியுள்ளார்.

இதற்கிடையே, AI models-ஐ சோதனை செய்யும் போது சில AI systems தங்களுக்கு விதிக்கப்பட்ட கட்டுப்பாடுகளைத் தாண்டி செயல்பட முயன்ற சம்பவங்களும் AI safety குறித்த கவலையை அதிகரித்துள்ளன. OpenAI நடத்திய AI security evaluation-ன் போது, ஒரு AI agent testing environment-ன் வரம்புகளைத் தாண்டி internet-ஐ அணுக முயன்றதுடன், developers தங்களது models மற்றும் code-களை சேமித்து பகிரும் Hugging Face infrastructure-ஐ அணுகிய சம்பவமும் தெரியவந்துள்ளது. இந்த சம்பவம் AI systems-க்கு வழங்கப்படும் access மற்றும் அவற்றின் செயல்பாடுகளை கண்காணிப்பது குறித்த கேள்விகளை எழுப்பியுள்ளது. இந்நிலையில், Dario Amodei-யின் AI safety குறித்த கருத்துகளுக்கு AI உலகின் முக்கிய தலைவர்களிடமிருந்தும் ஆதரவு கிடைத்துள்ளது. OpenAI CEO Sam Altman, Amodei-யின் கருத்தை Reshare செய்து, “I agree with Dario” எனத் தெரிவித்துள்ளார். மேலும், AI systems-ஐ வெளிப்புற Third-party Evaluators மூலம் சோதனை செய்வதற்கான நடவடிக்கைகளுக்கு OpenAI தயாராக இருப்பதாகவும் Sam Altman குறிப்பிட்டுள்ளார். xAI நிறுவனத்தின் CEO Elon Musk-ம் Amodei-யின் கருத்தை ஆதரித்துள்ளார். “Dario is right” என்று அவர் X தளத்தில் பதிவிட்டுள்ளார். இதனால், AI துறையில் போட்டியிடும் முக்கிய நிறுவனங்களின் தலைவர்களே AI safety மற்றும் அதன் வேகமான வளர்ச்சி குறித்து எச்சரிக்கை விடுத்திருப்பது கவனம் பெற்றுள்ளது.

Elon Musk இதற்கிடையே, Microsoft நிறுவனத்தின் CEO Satya Nadella-வும் AI development-ல் எச்சரிக்கையான அணுகுமுறை தேவை என வலியுறுத்தியுள்ளார். AI மனிதக் கட்டுப்பாட்டுக்குள் இருந்து, மனிதகுலத்திற்கு தொடர்ந்து பயனளிக்கும் வகையில் பயன்படுத்தப்பட வேண்டும் என்றும், AI development-ல் பாதுகாப்பு மற்றும் பொறுப்பான அணுகுமுறை அவசியம் என்றும் அவர் தெரிவித்துள்ளார். மேலும், Microsoft நிறுவனத்தின் MAI models தொடர்பான Code of Conduct மற்றும் AI safety குறித்த அணுகுமுறைகள் தொடர்பாக பயனாளர்களிடம் கருத்து கேட்கும் நடவடிக்கைகளும் மேற்கொள்ளப்பட்டு வருகின்றன. AI பயன்பாடு குறித்து முன்னணி தொழில்நுட்ப நிறுவனங்களின் தலைவர்களே பாதுகாப்பு தொடர்பான கவலைகளை வெளிப்படுத்தியிருப்பது, AI குறித்த விவாதத்தை மேலும் தீவிரப்படுத்தியுள்ளது. ஒருபுறம், AI மூலம் மருத்துவம், அறிவியல், கல்வி, தொழில்நுட்பம் உள்ளிட்ட பல துறைகளில் பல்வேறு முன்னேற்றங்கள் ஏற்பட்டு வரும் நிலையில், மறுபுறம் அதன் அதிவேக வளர்ச்சி கட்டுப்பாடின்றி சென்றால் என்ன மாதிரியான அபாயங்கள் ஏற்படும் என்ற கேள்வியும் எழுந்துள்ளது. AI பயன்பாட்டுக்கும், அதனை உருவாக்கி பயன்படுத்தும் நிறுவனங்களுக்கும் தேவையான கட்டுப்பாடுகளை உருவாக்குவதுடன், மனிதக் கட்டுப்பாடு, வெளிப்புற மதிப்பீடு மற்றும் பாதுகாப்பு நடவடிக்கைகளை உறுதி செய்ய வேண்டும் என்ற கோரிக்கைகளும் தொடர்ந்து வலுப்பெற்று வருகின்றன.

செய்தியாளர் - ராஜ்குமார். ர