ஒரே ஒரு மெசேஜ்.. உடைந்தது Claude AI-ன் பாதுகாப்பு! Anthropic சொன்ன அந்த 'Informative' ரகசியம் என்ன?

முக்கிய புள்ளிகள்#

• Claude AI-ன் இரண்டு அடுக்கு பாதுகாப்பையும் (Safety Layers) ஒரே ஒரு மெசேஜ் மூலம் ஆராய்ச்சியாளர்கள் முறியடித்துள்ளனர்.
• இதை ஒரு பெரிய செக்யூரிட்டி பிரச்சனையாக பார்க்காமல், Anthropic நிறுவனம் 'தகவல் அளிக்கக்கூடியது' (Informative) என்று சாதாரணமாக சொல்லியுள்ளது.
• 2026-ல் AI-களுக்கு இருக்கும் அதிகப்படியான நினைவாற்றலை (Context Window) வைத்தே இந்த ஹேக் செய்யப்பட்டுள்ளது.
• இந்தியாவில் UPI மற்றும் வங்கி சேவைகளில் AI-ஐ பயன்படுத்தும் நிறுவனங்கள் கூடுதல் எச்சரிக்கையுடன் இருக்க வேண்டும்.
• இது வெறும் ஒரு சாஃப்ட்வேர் அப்டேட் மூலம் சரிசெய்யக்கூடிய விஷயம் அல்ல, AI உருவாக்கப்படும் முறையிலேயே இருக்கும் ஒரு குறைபாடு.

AI பாதுகாப்பு என்பது ஒரு மாயையா?#

கடந்த சில ஆண்டுகளாகவே AI நிறுவனங்கள் ஒரு விஷயத்தை திரும்ப திரும்ப சொல்லிட்டு வராங்க. 'எங்க AI ரொம்ப பாதுகாப்பானது, இது தப்பான விஷயங்களை செய்யாது' அப்படின்னு. முக்கியமா Anthropic நிறுவனத்தோட Claude AI-ஐ எல்லாரும் ரொம்ப நம்புனாங்க. ஏன்னா இது 'Constitutional AI' அப்படிங்கிற ஒரு முறையில உருவாக்கப்பட்டது. அதாவது, ஒரு மனுஷனுக்கு எப்படி சில ஒழுக்க நெறிகள் இருக்கோ, அதே மாதிரி இந்த AI-க்கும் சில ரூல்ஸ் இருக்கு. ஆனா, 2026 ஜூலை மாசமான இப்போ, அந்த நம்பிக்கையில ஒரு பெரிய இடி விழுந்திருக்கு. ஒரே ஒரு மெசேஜ், ஆனா அதுல இருந்த ஒரு குறிப்பிட்ட 'பேட்டர்ன்' (Pattern), Claude-ன் ரெண்டு லேயர் பாதுகாப்பையும் அசால்ட்டா உடைச்சிருச்சு.

நாங்க TamilTech-ல ஆரம்பத்துல இருந்தே சொல்ற ஒரு விஷயம் என்னன்னா, எந்த ஒரு டெக்னாலஜியும் 100% பாதுகாப்பானது கிடையாது. முன்னாடி எல்லாம் AI-ஐ ஏமாத்துறது ரொம்ப ஈஸியா இருந்தது. 'நீ ஒரு கெட்டவன் மாதிரி நடி' அப்படின்னு சொன்னாலே அது தப்பான பதில்களை சொல்லும். ஆனா இப்போ இருக்குற AI-கள் ரொம்ப புத்திசாலி. ஆனாலும், ஹேக்கர்கள் அவங்களை விட புத்திசாலியா இருக்காங்க. இப்போ நடந்திருக்கிற இந்த விஷயம் வெறும் ஒரு சின்ன 'பக்' (Bug) கிடையாது. இது AI வேலை செய்யுற வித்தையிலேயே இருக்குற ஒரு ஓட்டை. இதை ஏன் நாம இப்போ முக்கியமா பேசணும்னா, நம்ம ஊர்ல இப்போ பேங்கிங்ல இருந்து பர்சனல் அசிஸ்டன்ட் வரைக்கும் எல்லாமே AI மயமாகிட்டு இருக்கு.

இந்த 'பேட்டர்ன்' ஹேக் எப்படி வேலை செய்யுது?#

சரி, இப்போ இந்த ஹேக் எப்படி நடக்குதுன்னு சிம்பிளா பாக்கலாம். Claude AI-க்கு ரெண்டு செக்யூரிட்டி கார்டு இருக்காங்கன்னு நினைச்சுக்கோங்க. முதல் கார்டு, நீங்க கேக்குற கேள்வி தப்பானு செக் பண்ணுவாரு. ரெண்டாவது கார்டு, AI குடுக்குற பதில் தப்பானு செக் பண்ணுவாரு. இப்போ ஹேக்கர்கள் என்ன பண்றாங்கன்னா, ஒரு ரொம்ப நீளமான மெசேஜ் அனுப்புறாங்க. 2026-ல இருக்குற AI-களுக்கு ஒரு மில்லியன் வார்த்தைகளை கூட ஒரே நேரத்துல ஞாபகம் வச்சுக்க முடியும். இதைத்தான் 'கான்டெக்ஸ்ட் விண்டோ' (Context Window) அப்படின்னு சொல்றோம்.

இந்த நீளமான மெசேஜ்ல ஆரம்பத்துல ரொம்ப நல்ல விஷயங்களா, ஒரே மாதிரியான பேட்டர்ன்ல அனுப்பி AI-ஐ ஒரு விதமான 'ஹிப்னாடிசம்' பண்றாங்க. அந்த மெசேஜோட கடைசியில யாருக்கும் தெரியாம ஒரு தப்பான கேள்வியை கேக்குறாங்க. அந்த நேரத்துல AI என்ன பண்ணுதுன்னா, அந்த ஆரம்பத்துல வந்த பேட்டர்ன்-ஐயே ஃபாலோ பண்ணனும்னு நினைச்சு, தன்னோட பாதுகாப்பையும் மீறி தப்பான பதிலை குடுத்துடுது. இதனாலதான் இதை 'பேட்டர்ன் ஹேக்' அப்படின்னு சொல்றோம். இது எப்படின்னா, ஒருத்தரை நல்லா பேச வச்சு, அப்படியே அவங்களுக்கே தெரியாம அவங்க வீட்டு சாவியை வாங்குற மாதிரி ஒரு டெக்னிக் இது.

Anthropic ஏன் இதை சாதாரணமாக நினைக்கிறது?#

இந்த தப்பை கண்டுபிடிச்சு சொன்னப்போ, Anthropic நிறுவனம் இதை ரொம்ப சீரியஸா எடுத்துக்கல. அவங்க இதை 'Informative' அப்படின்னு சொல்றாங்க. அதாவது, 'இதை தெரிஞ்சுக்கிட்டதுல சந்தோஷம், ஆனா இது ஒன்னும் பெரிய ஆபத்து இல்ல' அப்படின்னு சொல்றாங்க. ஆனா TamilTech-ஓட கருத்து என்னன்னா, இது ரொம்ப ஆபத்தான ஒரு போக்கு. ஒரு AI-ஆல தப்பான கோடு (Code) எழுத முடியும் இல்லன்னா ஒருத்தரோட பெர்சனல் டேட்டாவை எடுக்க முடியும்னா, அது கண்டிப்பா ஒரு பெரிய செக்யூரிட்டி பிரச்சனைதான்.

ஏன் அவங்க இப்படி சொல்றாங்க? ஏன்னா இப்போ இருக்குற மார்க்கெட்ல AI நிறுவனங்களுக்கு இடையில பெரிய போட்டி இருக்கு. 'எங்க AI பாதுகாப்பானது இல்ல'ன்னு ஒத்துக்கிட்டா அவங்களோட ஷேர் வேல்யூ குறையும். அதனாலதான் இப்படி மழுப்புறாங்க. ஆனா நாம யூசரா ரொம்ப ஜாக்கிரதையா இருக்கணும். இந்த மாதிரி ஹேக்ஸ் மூலமா உங்க போன்ல இருக்குற UPI ஆப்ஸ் இல்லன்னா பேங்கிங் ஆப்ஸ்-ஐ கூட ஹேக்கர்கள் கண்ட்ரோல் பண்ண வாய்ப்பு இருக்கு. ஏன்னா இப்போ எல்லாமே AI மூலமா தான் கனெக்ட் ஆகி இருக்கு.

இந்தியர்களுக்கு இதனால என்ன பாதிப்பு?#

நம்ம ஊர்ல இப்போ எல்லாரும் ChatGPT, Claude-னு அதிகமா பயன்படுத்த ஆரம்பிச்சுட்டோம். முக்கியமா இந்திய ஸ்டார்ட்அப்ஸ் இப்போ Claude AI-ஐ தான் அதிகமா நம்பி இருக்காங்க. ஏன்னா இது மத்த AI-களை விட கொஞ்சம் புத்திசாலித்தனமா பேசுது. இப்போ இந்த ஹேக் மூலமா, ஒரு கஸ்டமர் கேர் பாட் (Customer Care Bot)-ஐ யாராவது ஏமாத்தி, வேற ஒருத்தரோட தகவலை திருட முடியும். உதாரணத்துக்கு, நீங்க ஒரு பேங்க் பாட் கிட்ட பேசுறீங்கன்னு வைங்க, ஹேக்கர் அந்த பாட்-ஐ இந்த 'பேட்டர்ன்' மூலமா ஏமாத்தி உங்க அக்கவுண்ட் டீடைல்ஸ்-ஐ வாங்க முடியும்.

இதனால இந்திய டெவலப்பர்கள் என்ன பண்ணனும்னா, வெறும் AI நிறுவனத்தை மட்டும் நம்பி இருக்காம, நீங்களா ஒரு தனி பாதுகாப்பை உருவாக்கணும். கஸ்டமர் கேர்-ல AI-ஐ யூஸ் பண்ணும்போது, முக்கியமான முடிவுகளை எடுக்க ஒரு மனுஷனோட அனுமதி கண்டிப்பா வேணும் (Human-in-the-loop). அதுமட்டும் இல்லாம, 'பிராம்ப்ட் இன்ஜெக்ஷன்' (Prompt Injection) அப்படின்னு சொல்லப்படுற இந்த மாதிரி ஹேக்ஸ்-ஐ தடுக்க தனியா ஒரு செக்யூரிட்டி சிஸ்டம்-ஐ இன்ஸ்டால் பண்ணனும். இது இல்லன்னா, எதிர்காலத்துல பெரிய டேட்டா திருட்டு நடக்க வாய்ப்பு இருக்கு.

TamilTech-ஓட நேர்மையான கருத்து#

கடைசியா நாங்க என்ன நினைக்கிறோம்னா, AI தொழில்நுட்பம் இன்னும் முழுமையா பாதுகாப்பான நிலைக்கு வரல. 2026-ல நாம எவ்வளவோ முன்னேறி இருந்தாலும், ஒரு சின்ன லாஜிக் ஓட்டை மூலமா மொத்த சிஸ்டத்தையும் உடைக்க முடியுதுங்கிறது ஒரு கசப்பான உண்மை. Anthropic இதை 'தகவல்'னு சொன்னாலும், நாம இதை ஒரு 'எச்சரிக்கை'யா தான் பாக்கணும். எந்த ஒரு AI-யும் 100% உங்க பிரைவசியை காப்பாத்தும்னு நம்பாதீங்க.

உங்களோட பாஸ்வேர்டு, பேங்க் டீடைல்ஸ், இல்லன்னா ரொம்ப பர்சனலான போட்டோக்களை எந்த AI கூடயும் ஷேர் பண்ணாதீங்க. அது எவ்வளவு பெரிய கம்பெனியா இருந்தாலும் சரி. டெக்னாலஜி வளர வளர ஆபத்துகளும் வளரும். நாம தான் இன்னும் கொஞ்சம் விழிப்புணர்வோட இருக்கணும். இந்த மாதிரி விஷயங்களை பத்தி இன்னும் டீடைலா தெரிஞ்சுக்க TamilTech-ஐ தொடர்ந்து ஃபாலோ பண்ணுங்க. நாங்க இதோட அடுத்தடுத்த அப்டேட்களை உடனே உங்களுக்கு சொல்றோம்!