Anthropic Researcher ராஜினாமா: FM Sitharaman AI Safety குறித்து கேள்வி எழுப்பியது ஏன்?

என்ன நடந்தது?#

பாருங்க, இது சாதாரண tech news இல்லை. Finance Minister Nirmala Sitharaman வெளிப்படையா ஒரு முக்கிய கேள்வியை கேட்டுள்ளார் — frontier AI நிறுவனங்கள் தங்கள் technology-ன் வேகத்திற்கு ஈடுகொடுக்கும் அளவுக்கு safety safeguards உருவாக்குகிறார்களா இல்லையா என்பது தான் அந்த கேள்வி.

இதற்கு காரணம், Anthropic நிறுவனத்தின் researcher Jacob Coxon-ன் ராஜினாமா. AI போட்டி பற்றிய கவலைகள் காரணமாக அவர் வெளியேறியுள்ளார். அதாவது, ஒரு AI company-யிலேயே வேலை செய்பவரே பாதுகாப்பு பற்றி கவலைப்பட்டு வெளியேறும் நிலை இருக்கிறது என்பது தான் பெரிய விஷயம்.

இந்தியாவின் Finance Minister ஒரு specific researcher-ன் ராஜினாமாவை சுட்டிக்காட்டி AI safety பற்றி பேசும் போது, அது academic விவாதத்தை தாண்டி governance-ன் உச்ச மட்டத்திற்கு வந்துவிட்டது என்று அர்த்தம். Sitharaman கேட்கும் கேள்வி ஒன்று தான் — models வளரும் வேகத்திற்கு ஈடாக guardrails-ம் வளருகிறதா?

Anthropic என்ன நிறுவனம்? ஏன் இந்த ராஜினாமா முக்கியம்?#

ChatGPT-யை உருவாக்கிய OpenAI, Claude-ஐ உருவாக்கிய Anthropic — இரண்டும் இப்போ AI உலகின் பெரிய பெயர்கள். Anthropic-ஐ தொடங்கியவர்கள் Dario மற்றும் Daniela Amodei. இவர்கள் முன்பு OpenAI-ல் வேலை செய்தவர்கள் தான். அங்கே இருந்து வெளியேறி, safety-first என்ற அடிப்படையில் Anthropic-ஐ தொடங்கினார்கள்.

அதாவது, Anthropic-ன் brand identity முழுக்க முழுக்க safety மேல் கட்டப்பட்டது. Constitutional AI, responsible scaling — இவை தான் அவர்கள் பேசும் விஷயங்கள். Safety research publish செய்வது, interpretability பற்றி பேசுவது, responsible AI development frameworks கேட்பது — இவை எல்லாம் Anthropic-ன் routine தான்.

சரி, இப்போ அப்படி safety-first என்று சொல்லிக்கொள்ளும் நிறுவனத்திலேயே ஒரு researcher போட்டி பற்றி கவலைப்பட்டு வெளியேறுகிறார் என்றால், விஷயம் சீரியஸ் தான். பாதுகாப்பு என்று அடையாளம் காட்டும் நிறுவனத்திலேயே இந்த நிலை என்றால், safety-யை அலட்டிக்கொள்ளாத மற்ற நிறுவனங்களின் நிலை என்ன என்று நாமே யோசிக்க வேண்டும்.

பிரச்சனை என்ன — வேகம் vs பாதுகாப்பு#

உதாரணமாக ஒரு Mobile App உருவாக்கு என்று சொன்னால், feature-ஐ வேகமா push செய்யலாம். Bug வந்தால் பிறகு update போட்டு fix செய்துக்கலாம். ஆனால் AI-ல் அப்படி அல்ல. ஒரு AI model-ஐ வெளியிட்ட பிறகு அது என்ன செய்யும் என்பதை முழுமையா கண்ட்ரோல் செய்வது ரொம்ப கஷ்டம்.

AI capabilities இப்போ எந்த வேகத்தில் வளருகிறது என்றால், traditional software development cycle-க்கு வயது சொல்ல முடியாது. Production code எழுதுவது, photorealistic images generate செய்வது, complex problems-ஐ reason செய்வது, human experts-க்கு ஈடாக conversation நடத்துவது — இவை எல்லாம் இப்போ AI models செய்கின்றன.

ஆனால், safety research, red-teaming, alignment work — இவை மட்டும் அந்த வேகத்தில் வரவில்லை. அதாவது, model-ஐ release செய்வதை தள்ளிப்பிடலாம், ஆனால் alignment work-ஐ அப்படி rush செய்ய முடியாது. ஒரு model எப்படி behave செய்யும் என்பதை உறுதிப்படுத்தும் வேலைக்கு நேரம் வேணும், ஆராய்ச்சி வேணும், testing வேணும். அந்த நேரம் கிடைக்காத போது தான் பிரச்சனை வருகிறது.

ஒவ்வொரு major AI lab-ம் இப்போ ஒரு race-ல் இருக்கிறது. யார் model அதிகமா powerful? யாருக்கு அதிகமா users? யார் market-ல் முன்னணியில் இருக்கிறார்கள்? இந்த race-ல் safety என்பது பின்னணிக்கு தள்ளப்படும் போது தான் Jacob Coxon போன்றவர்கள் வெளியேறுகிறார்கள்.

இந்தியாவுக்கு இது என்ன முக்கியத்துவம்?#

இந்தியா இப்போ India AI Mission-ஐ தீவிரமா தள்ளிக்கொண்டு போய்க்கொண்டு இருக்கிறது. ₹10,372 crore ஒதுக்கீடு செய்யப்பட்டுள்ளது. AI infrastructure, compute power, GPU procurement — இவற்றில் நிறைய invest செய்யப்படுகிறது.

ஆனால், ஒரு முக்கியமான விஷயத்தை பார்க்கணும். இந்தியா AI-ன் major consumer தான், ஆனால் frontier AI model-ன் creator இல்லை. அதாவது, நாம் OpenAI, Anthropic, Google போன்ற நிறுவனங்களின் models-ஐ நம்பியே இருக்கிறோம். நம்ம பயன்பாடு அதிகம், ஆனால் அந்த models-ன் safety நம்ம கையில் இல்லை.

UPI பயன்படுத்தும் இந்தியா, Jio போன்ற telecom networks-ல் data ஓடும் இந்தியா, Flipkart-ல் recommendation engine வேலை செய்யும் இந்தியா — இங்கெல்லாம் AI ஏற்கனவே ஆழமா புகுந்துவிட்டது. இந்த நிலையில், frontier models-ன் safety பற்றி இந்தியா கவலைப்படுவது நியாயம் தான்.

Sitharaman-ன் comments ஒரு விஷயத்தை தெளிவா காட்டுகிறது — AI safety என்பது இப்போ இந்திய policy-making-ன் உச்ச மட்டத்திற்கு வந்துவிட்டது. இது ஒரு tech ministry விவகாரம் மட்டும் அல்ல, Finance Ministry-க்கும் முக்கியமான விஷயம்.

நமக்கு என்ன தெரிஞ்சுக்கணும்?#

முதல் விஷயம் — AI safety என்பது வெளிநாட்டு விவகாரம் மட்டும் அல்ல. நாம் அதிகமா foreign models-ஐ பயன்படுத்துவதால், அவற்றின் safety நம்ம தரவுகளையும் நம்ம மக்களையும் பாதிக்கும்.

இரண்டாவது — Anthropic போன்ற safety-first நிறுவனத்திலேயே researcher வெளியேறும் போது, மற்ற நிறுவனங்களின் நிலை என்ன என்று யோசிக்கணும். போட்டி வேகம் அதிகரிக்க, safety பின்னால் போகும் அபாயம் நிஜம்.

மூன்றாவது — இந்தியா தன் சொந்த AI models-ஐ உருவாக்கும் போது, safety-யை அடிப்படையா வைத்துக்கொள்ள வேண்டும். India AI Mission-ல் safety research-க்கும் முக்கியத்துவம் கொடுக்க வேண்டும். வெறும் compute power மட்டும் போதாது.

நான்காவது — AI safety என்பது ஒரு நிறுவனத்தின் மட்டும் பொறுப்பு அல்ல. Government, academia, industry — மூன்றும் சேர்ந்து ஒரு framework உருவாக்க வேண்டும். அதில் இந்தியாவின் தேவைகள், இந்தியாவின் மொழிகள், இந்தியாவின் social context — இவை எல்லாம் reflect ஆக வேண்டும்.

ஐந்தாவது — ஒரு researcher-ன் ராஜினாமா ஒரு signal. அதை புறக்கணிக்கக்கூடாது. AI உலகில் போட்டி நாளுக்கு நாள் அதிகரித்து வருகிறது. அந்த போட்டியில் safety என்பது திறமையா handle செய்யப்படாவிட்டால், விளைவுகள் பெரியதா இருக்கலாம்.

FAQs#

1. Jacob Coxon யாரு? ஏன் ராஜினாமா செய்தார்?#

Jacob Coxon, Anthropic நிறுவனத்தில் AI researcher ஆக வேலை செய்தவர். AI போட்டி பற்றிய கவலைகள் காரணமாக ராஜினாமா செய்துள்ளார். அதாவது, AI நிறுவனங்கள் வேகமா models உருவாக்கும் போது safety-க்கு தேவையான நேரம் கிடைக்கவில்லை என்று அவர் உணர்ந்துள்ளார்.

2. Anthropic என்றால் என்ன? அவர்கள் ஏன் safety-first என்கிறார்கள்?#

Anthropic என்பது Claude AI-யை உருவாக்கிய நிறுவனம். Dario மற்றும் Daniela Amodei என்ற சகோதர சகோதரிகள் OpenAI-ல் இருந்து வெளியேறி இதை தொடங்கினார்கள். Constitutional AI, responsible scaling போன்ற concepts-ஐ முன்வைத்து, safety-யே தங்கள் brand என்று நிறுவியுள்ளனர்.

3. இந்தியாவுக்கு இது ஏன் முக்கியம்?#

இந்தியா AI-ன் பெரிய consumer ஆக இருக்கிறது. UPI, telecom, e-commerce — எல்லா இடத்திலும் AI புகுந்துவிட்டது. ஆனால் frontier models நம்ம கையில் இல்லை. அதனால், அந்த models-ன் safety நம்ம தரவுகளையும் மக்களையும் நேரடியா பாதிக்கும். அதனால் தான் Sitharaman-ன் comments முக்கியம்.

4. India AI Mission என்ன செய்கிறது?#

இந்தியா தன் சொந்த AI infrastructure-ஐ கட்டியெழுப்புவதற்காக India AI Mission-ஐ தள்ளிக்கொண்டு போய்க்கொண்டு இருக்கிறது. ₹10,372 crore ஒதுக்கீடு செய்யப்பட்டுள்ளது. Compute power, GPU procurement, AI research — இவற்றில் focus செய்யப்படுகிறது.

5. AI safety என்பது என்ன அர்த்தம்?#

AI safety என்பது AI models நாம் நினைக்கும் விதத்தில் வேலை செய்வதை உறுதிப்படுத்துவது. அதாவது, ஒரு AI model தீங்கு விளைவிக்கக்கூடியதாக இருந்தால், அதை தடுக்கும் வழிமுறைகள், testing methods, alignment techniques — இவை எல்லாம் AI safety-ன் பகுதி.