ஃப்ளோபிரேக்கிங் சுரண்டல்கள் தரவு கசிவைத் தூண்டுகின்றன

தற்செயலாக முக்கியமான உள் ஆவணங்களை அம்பலப்படுத்த, செயல்திறனை அதிகரிக்க, AI- இயங்கும் தேடல் கருவியை ஒரு பன்னாட்டு நிறுவனம் பயன்படுத்துவதை கற்பனை செய்து பாருங்கள். இந்த அமைதியற்ற சூழ்நிலையானது, வணிகச் செயல்பாடுகளில் உருவாக்கக்கூடிய AI-யை விரைவாக ஏற்றுக்கொள்வதில் உள்ள குறிப்பிடத்தக்க அபாயங்களை எடுத்துக்காட்டுகிறது.

நிறுவனத் தேடல், பெரிய மொழி மாதிரிகள் (LLMகள்) மூலம் இயக்கப்படுகிறது, பல அமைப்புகளில் உள்ள கட்டமைக்கப்பட்ட மற்றும் கட்டமைக்கப்படாத தரவுகளுக்கு வணிகங்களுக்கு ஒருங்கிணைந்த, AI- உந்துதல் அணுகலை வழங்குகிறது. இந்த அணுகுமுறையானது, இயற்கையான மொழிப் புரிதலைப் பயன்படுத்தி தகவல் மீட்டெடுப்பு மற்றும் கண்டுபிடிப்பை மேம்படுத்துகிறது, இது நிறுவனத் தேடலை உருவாக்கும் AI இன் மிகவும் தாக்கமான பயன்களில் ஒன்றாக ஆக்குகிறது. OpenAI இன் GPT-4 போன்ற மாதிரிகள் வணிகங்கள் எவ்வாறு தகவல்களை அணுகுவது மற்றும் சிறந்த முடிவெடுப்பதற்கு பயன்படுத்துகிறது என்பதை மேம்படுத்துகிறது. இருப்பினும், உணர்திறன் தரவு கசிவுகளின் ஆபத்து ஒரு தீவிர சவாலை ஏற்படுத்துகிறது, இது பெரும்பாலும் தத்தெடுப்பை தாமதப்படுத்துகிறது. எனவே, கடுமையான “அறிந்து கொள்ள வேண்டிய” பாதுகாப்பு நெறிமுறைகளை செயல்படுத்துவது, ரகசியத் தகவலைப் பாதுகாப்பதற்கும், AI அமைப்புகள் பாதுகாப்பாக இயங்குவதை உறுதி செய்வதற்கும் முக்கியமானது.

புதிய செயல்திறனைத் திறக்க வணிகங்கள் இந்த மேம்பட்ட AI கருவிகளைப் பயன்படுத்துவதால், AI முன்னேற்றங்களின் பரந்த அலையானது பணிகளை தானியக்கமாக்குதல், உள்ளடக்கத்தை உருவாக்குதல் மற்றும் முடிவெடுப்பதை ஆதரிப்பதன் மூலம் தொழில்களில் புரட்சியை ஏற்படுத்துகிறது. இருப்பினும், இந்த முன்னேற்றத்துடன் தரவு ஒருமைப்பாடு மற்றும் பாதுகாப்புக்கு புதிய சவால்கள் வருகின்றன. அத்தகைய ஒரு சவாலானது “ஃப்ளோபிரேக்கிங்” ஆகும், இது புதிதாக அடையாளம் காணப்பட்ட அச்சுறுத்தலாகும், இது AI அமைப்புகளின் நம்பகத்தன்மை மற்றும் பாதுகாப்பு பற்றிய குறிப்பிடத்தக்க கவலைகளை எழுப்புகிறது.

ஃப்ளோபிரேக்கிங் என்றால் என்ன?

ஃப்ளோபிரேக்கிங் என்பது பதில் உருவாக்கத்தின் போது AI மாதிரிகளின் பகுத்தறிவு மற்றும் ஒத்திசைவைக் குறிவைக்கும் ஒரு புதிய தாக்குதல் திசையன் ஆகும். உள்ளீட்டுத் தரவைக் கையாளும் பாரம்பரிய தாக்குதல்களைப் போலன்றி, ஃப்ளோபிரேக்கிங் மாதிரியின் வெளியீட்டின் உள் தர்க்கத்தை சீர்குலைக்கிறது. இதன் பொருள், தீங்கற்ற உள்ளீடுகள் மற்றும் செல்வாக்குகள் கூட மாதிரியை தவறான அல்லது தீங்கு விளைவிக்கும் பதில்களை உருவாக்க வழிவகுக்கலாம், அல்லது ரகசியத் தகவல் கசிவதை இயக்கலாம்.

Knostic AI இன் ஆராய்ச்சியாளர்கள் சமீபத்தில் AI உதவியாளர்களைத் தாக்குபவர்கள் எவ்வாறு நுட்பமான முறையில் தவறான ஆலோசனைகளை வழங்குவது அல்லது ரகசியத் தகவலை கசியச் செய்யலாம் என்பதை நிரூபித்துள்ளனர். உதாரணமாக, ஒரு “இரண்டாவது எண்ணங்கள்” தாக்குதல் நிகழ்கிறது, ஒரு உருவாக்கும் AI ஆரம்பத்தில் ஒரு பதிலை அளித்தாலும், உணர்திறன் வாய்ந்த உள்ளடக்கத்தைக் கண்டறிந்தவுடன் அதைத் திரும்பப் பெறுகிறது; தாக்குபவர்கள் இந்த நடத்தையைப் பயன்படுத்தி திட்டமிடப்படாத தகவல்களைப் பெறலாம். அதேபோல, “ஸ்டாப் அண்ட் ரோல்” தாக்குதலானது, மறைக்கப்பட்ட கட்டளைகள் அல்லது தூண்டுதல்களைச் சேர்க்க AI இன் வெளியீட்டைக் கையாளுவதை உள்ளடக்குகிறது, இது அங்கீகரிக்கப்படாத செயல்கள் அல்லது தரவு வெளிப்படுத்தலுக்கு வழிவகுக்கும். AIயின் பகுத்தறிவின் ஓட்டத்தைத் தாக்குபவர்கள் முறியடிக்கக்கூடிய குறிப்பிட்ட சொற்றொடர்களை உருவாக்குவதன் மூலம் இவை செய்யப்படலாம், இது திட்டமிடப்படாத மற்றும் சேதமடையக்கூடிய பதில்களை ஏற்படுத்துகிறது.

தாக்கங்கள் தொழில் மற்றும் தரவு கசிவுக்காக

நிறுவனத் துறையில், குறிப்பாக நிதி தொழில்நுட்பத்தில், இத்தகைய சாத்தியமான தாக்குதல்களுடன் தொடர்புடைய அபாயங்கள் ஆழமானவை. எண்டர்பிரைஸ் தேடலானது உருவாக்கும் AI தத்தெடுப்பின் மூலக்கல்லாக மாறும் போது, ​​ஒரு சமரசம் செய்யப்பட்ட AI அமைப்பு கவனக்குறைவாக ரகசிய ஆவணங்கள், மூலோபாய திட்டங்கள் அல்லது தனிப்பட்ட தரவுகளை அம்பலப்படுத்தலாம். தரவு கசிவு நம்பிக்கையை குறைமதிப்பிற்கு உட்படுத்துவது மட்டுமல்லாமல், AI தீர்வுகளின் வரிசைப்படுத்தலை முழுவதுமாக நிறுத்தலாம். உண்மையில், அங்கீகரிக்கப்பட்ட பணியாளர்களுக்கு அப்பால் முக்கியமான தகவல்களை அணுகுவது குறித்த கவலைகள் காரணமாக நிறுவனங்கள் தங்கள் AI முயற்சிகளை இடைநிறுத்துவதாக அறிவித்துள்ளன. அதேபோல், கார்ட்னரின் ஆய்வில், AI-யைப் பயன்படுத்தும் நிறுவனங்களில் ஏறக்குறைய 30% AI- தொடர்பான பாதுகாப்பு சம்பவங்களை அனுபவித்ததாக வெளிப்படுத்தியது, மேலும் அதன் சமீபத்திய கணக்கெடுப்பு தாக்குதல்களில் AI இன் பங்கை உள்ளடக்கிய சாத்தியமான, ஆனால் உணரப்படாத காட்சிகள் பற்றிய வளர்ந்து வரும் கவலையை அடிக்கோடிட்டுக் காட்டுகிறது.

கூடுதலாக, உருவாக்கக்கூடிய AI மாதிரிகள் மூலம் உணர்திறன் தரவின் கவனக்குறைவாக கசிவு ஒரு சம்பந்தப்பட்ட பிரச்சினை. InfoSecurity Magazine இந்த ஆண்டின் தொடக்கத்தில், தலைமை தகவல் பாதுகாப்பு அதிகாரிகளில் (CISOக்கள்) ஐந்தில் ஒரு பகுதியினர் தங்கள் ஊழியர்கள் AI கருவிகளைப் பயன்படுத்துவதன் மூலம் தரவுகளை கசியவிட்டதாகக் கூறியுள்ளனர். குறிப்பாக முக்கியமான நிதித் தகவல்களைக் கையாளும் தொழில்களில், ஃப்ளோபிரேக்கிங் தாக்குதல்கள் தரவு மீறல்களை எவ்வாறு எளிதாக்குகிறது என்பதை இது எடுத்துக்காட்டுகிறது.

தரவு கசிவு அச்சுறுத்தல் குறிப்பாக நிறுவன தேடல் பயன்பாடுகளில் கடுமையானது, அங்கு AI அமைப்புகள் பெருநிறுவனத் தரவைக் குறியிடுகின்றன. சரியான பாதுகாப்பு நெறிமுறைகள் இல்லாமல், இந்த அமைப்புகள் அங்கீகரிக்கப்படாத அணுகலுக்கான நுழைவாயில்களாக மாறும், இது குறிப்பிடத்தக்க மீறல்கள் மற்றும் இணக்க மீறல்களுக்கு வழிவகுக்கும்.

AI இணக்கத்திற்கான DOJ இன் வழிகாட்டுதல்

இந்த அச்சுறுத்தல்களுக்கு பதிலளிக்கும் விதமாக, அமெரிக்க நீதித்துறை (DOJ) இலையுதிர்காலத்தில் AI ஐ உள்ளடக்கிய கார்ப்பரேட் இணக்க திட்டங்களுக்கான மேம்படுத்தப்பட்ட வழிகாட்டுதலை வெளியிட்டது. முந்தைய உத்தரவின் அடிப்படையில், தவறான நடத்தைக்காக AI ஐப் பயன்படுத்துபவர்களுக்கு கடுமையான தண்டனைகளை வழிகாட்டுதல் வலியுறுத்துகிறது.

DOJ பல முக்கிய கேள்விகளில் கவனம் செலுத்துகிறது:

• நிறுவனத்தின் AI-உந்துதல் இணக்கத் திட்டம் நன்கு வடிவமைக்கப்பட்டதா?
• தீவிரமாக செயல்படுத்தப்படுகிறதா?
• இது நடைமுறையில் செயல்படுகிறதா?

கார்ப்பரேட் இணக்க திட்டங்களுக்குள் AI தொழில்நுட்பங்களுடன் தொடர்புடைய அபாயங்களை நிர்வகிப்பதற்கான முக்கியத்துவத்தை DOJ இன் வழிகாட்டுதல் எடுத்துக்காட்டுகிறது. உருவாக்கப்படும் AI உடன் இணைக்கப்பட்ட தரவு கசிவு அபாயங்களை இது குறிப்பாக நிவர்த்தி செய்யவில்லை என்றாலும், AI அமைப்புகள் நம்பகமானவை, நம்பகமானவை மற்றும் சட்ட மற்றும் நெறிமுறை தரங்களுக்கு இணங்குவதை உறுதி செய்வதற்கான கட்டுப்பாடுகளை செயல்படுத்த வேண்டியதன் அவசியத்தை இது அடிக்கோடிட்டுக் காட்டுகிறது. நிறுவனத்தின் மதிப்புகள் மற்றும் நடத்தை நெறிமுறைகளுடன் அவற்றின் செயல்பாட்டை உறுதிப்படுத்த, AI அமைப்புகளை கண்காணித்தல் மற்றும் சோதித்தல் ஆகியவற்றின் முக்கிய பங்கை வழிகாட்டுதல் வலியுறுத்துகிறது. உணர்திறன் வாய்ந்த நிறுவன தரவுகளுடன் AI பெருகிய முறையில் தொடர்புகொள்வதால், இந்த இணக்க எதிர்பார்ப்புகளை பூர்த்தி செய்ய வலுவான பாதுகாப்புகள் மற்றும் வெளிப்படைத்தன்மை அவசியம்.

சீரமைத்தல் வளர்ந்து வரும் அச்சுறுத்தல்களுடன் இணக்கம்

“உருவாக்கும் பரவலாக்கப்பட்ட சகாப்தத்தில் வளர்ந்து வரும் இணக்கம்” என்பதில், ஜெனரேட்டிவ் AI தொழில்நுட்பங்களுடன் இணக்க கட்டமைப்புகள் எவ்வாறு உருவாக வேண்டும் என்பதை நான் ஆராய்வேன். AI அமைப்புகள் தொடர்ந்து கற்றுக்கொள்ளவும் மேம்படுத்தவும் வடிவமைக்கப்பட வேண்டும். DOJ இன் வழிகாட்டுதல் இந்த செயலூக்கமான அணுகுமுறையை ஆதரிக்கிறது, வளர்ந்து வரும் அபாயங்களுக்கு ஏற்ப இணக்க திட்டங்களை உருவாக்க நிறுவனங்களை வலியுறுத்துகிறது.

ஃபோர்ப்ஸின் டோனி பிராட்லி கடந்த மாதம் எழுதினார், AI ஆனது எவ்வாறு சைபர் தாக்குதலுக்கான பிரதான இலக்காக மாறுகிறது, குற்றவாளிகள் நிதி அமைப்புகளை அணுகுவதற்கான பாதிப்புகளைப் பயன்படுத்திக் கொள்கின்றனர். இந்தத் தாக்குதல்களில் தீங்கிழைக்கும் குறியீட்டை உருவாக்குதல், யதார்த்தமான ஃபிஷிங் மின்னஞ்சல்களை உருவாக்குதல் அல்லது பாதுகாப்பு நெறிமுறைகளைத் தவிர்ப்பது ஆகியவை அடங்கும்.

தரவு வெளிப்படைத்தன்மை மற்றும் பாதுகாப்பின் முக்கியத்துவம்

தரவு வெளிப்படைத்தன்மை மற்றும் பாதுகாப்பு ஆகியவை ஓட்டம் உடைக்கும் தாக்குதல்களைத் தணிக்க முக்கியமானவை. நிறுவனங்கள் தேவை-அறிந்து கொள்ள வேண்டிய பாதுகாப்பைச் செயல்படுத்த வேண்டும், AI அமைப்புகள் பங்கு-குறிப்பிட்ட தகவலுக்கான அணுகலைக் கட்டுப்படுத்துகின்றன, மேலும் மாதிரிகள் நம்பகமான தரவை நம்பியிருப்பதை உறுதிசெய்ய தரவு மூலங்களைத் தணிக்கை செய்ய வேண்டும். விளக்கக்கூடிய AI இன்றியமையாதது, முடிவெடுக்கும் செயல்முறைகளில் வெளிப்படைத்தன்மையை வழங்குகிறது, அதே நேரத்தில் பொறுப்புக்கூறலுக்கு நிறுவனத்திற்குள் தெளிவான மேற்பார்வைப் பொறுப்புகள் தேவைப்படுகின்றன. அங்கீகரிக்கப்படாத அணுகலைக் கண்டறிந்து தடுப்பதற்கு வழக்கமான தரவு தணிக்கைகள் முக்கியமானவை. DOJ வழிகாட்டுதல், தவறான நடத்தைகளைத் தடுக்க நிறுவனங்கள் தங்கள் தரவை திறம்பட பயன்படுத்துகின்றனவா என்பதை வழக்கறிஞர்கள் மதிப்பீடு செய்வார்கள் மற்றும் இணக்கத் தோல்விகள் குறித்த நிகழ்நேர நுண்ணறிவுகளை வழங்குவார்கள் என்பதை வலியுறுத்துகிறது.

நடவடிக்கைக்கான அழைப்பு

ஃப்ளோபிரேக்கிங் தாக்குதல்கள் போன்ற பாதிப்புகளின் சுரண்டலின் அதிகரிப்பு, AI இணக்கத்தை தீவிரமாக எடுத்துக்கொள்வதற்கும் அதனுடன் தொடர்புடைய அபாயங்களை நன்கு புரிந்துகொள்வதற்கும் வணிகங்களுக்கான தெளிவான அழைப்பு. நிறுவனங்கள் தங்கள் நிறுவன தேடல் பயன்பாடுகளில் AI தொழில்நுட்பங்களை நம்பிக்கையுடன் ஏற்றுக்கொள்வதற்கு, தெரிந்துகொள்ள வேண்டிய அடிப்படையிலான பாதுகாப்பு நடவடிக்கைகளை செயல்படுத்துவது அவசியம். தரவு கசிவுக்கு எதிராக பாதுகாப்பதன் மூலம், நிறுவனங்கள் முக்கியமான தகவல்களை சமரசம் செய்யாமல் AI இன் நன்மைகளைப் பயன்படுத்த முடியும்.

நிலையான ஆராய்ச்சி மற்றும் பரிசோதனை, இணக்க உத்திகளில் நெறிமுறை AI ஐ ஒருங்கிணைப்பதுடன், நீண்ட கால வெற்றிக்காக நிறுவனங்களை நிலைநிறுத்துகிறது, சட்டரீதியான அபராதங்களைத் தவிர்க்கிறது. AI ஐ ஒரு எளிய பிளக் மற்றும் பிளே தீர்வாகப் பார்ப்பது இனி சாத்தியமில்லை.

நிதி அல்லது வணிக நடவடிக்கைகளில் AI, அத்துடன் இணக்கம், பொறுப்புக்கூறல், வெளிப்படையானது மற்றும் தொடர்ந்து உருவாகி வர வேண்டும். இந்த அணுகுமுறையை ஏற்றுக்கொள்ளும் நிறுவனங்கள் பெருகிய முறையில் சிக்கலான மற்றும் AI- உந்துதல் உலகில் வழிவகுக்கும்.

AI தொழில்நுட்பங்கள் உருவாகும்போது, ​​தீங்கிழைக்கும் தந்திரங்களும் உருவாகும். நிறுவனங்கள் விழிப்புடன் இருக்க வேண்டும், AI பாதுகாப்பு ஆராய்ச்சியில் முதலீட்டுக்கு முன்னுரிமை அளிக்க வேண்டும் மற்றும் நெறிமுறைப் பொறுப்புணர்வு கலாச்சாரத்தை வளர்க்க வேண்டும். AI இன் மகத்தான ஆற்றலைப் பயன்படுத்த இந்த முயற்சிகள் அவசியமானவை, அதே சமயம் அதனுடன் தொடர்புடைய அபாயங்களுக்கு எதிராக திறம்பட பாதுகாக்கின்றன.