সতর্ক থাকুন, আপনার এআই এজেন্ট ব্যবহৃত হচ্ছে আপনারই বিপক্ষে

আপনি ভাবছেন আপনার এআই এজেন্ট যেমন আপনি দেখেন, ঠিক তেমনই তথ্য দেখছে। কিন্তু সত্যি কি তাই? ওয়েবের অদৃশ্য কোণগুলোতে চলছে চুপচাপ এক খেলা, যেখানে মানুষ দেখছে এক ছবি আর তার এআই এজেন্ট দেখছে অন্য কিছু। কিছু সাইট এমন কৌশল ব্যবহার করছে যা চোখে ধরা যায় না, তবে এজেন্ট ঠিকই তা পড়ে। প্রতিটি ক্লিকের সঙ্গে লুকানো নির্দেশনা ধীরে ধীরে বদলে দিচ্ছে এজেন্টের আচরণ, আর আপনি জানতেও পারছেন না, কখন এবং কীভাবে আপনার এজেন্ট সেই ভুল পথে চলে যাচ্ছে।

গুগল ডিপমাইন্ডের সম্প্রতি প্রকাশিত গবেষণায় দেখা গেছে, ওয়েবসাইটগুলো এখন ফিঙ্গারপ্রিন্টিং এবং ব্যবহারিক আচরণ বিশ্লেষণের মাধ্যমে আলাদা করতে পারে কোন দর্শক মানুষ এবং কোনটি এআই।

যখন আপনার এজেন্ট কোনও তথ্য জানতে কোনও সাইটে এক্সেস করে, ঠিক সেই মুহূর্তে সাইটটি মানুষের জন্য দৃশ্যমান তথ্যের পেছনে লুকিয়ে পাঠাচ্ছে এআই রিডেবল কমান্ড যা আপনার এআই এজেন্টকে অনিচ্ছাকৃতভাবে ভিন্ন পথে পরিচালিত করে।

এ সমস্যা শুধু টেক্সটেই সীমাবদ্ধ নয়। ছবি, পিডিএফ বা অন্যান্য ফাইলের মধ্যে লুকানো বার্তা ব্যবহার করে ভিশন সক্ষম এআই মডেলগুলোর মধ্যে এমন কমান্ড ঢুকানো সম্ভব যা মানুষ বুঝতে পারে না, কিন্তু এজেন্ট ঠিকই পড়ে এবং আচরণ বদলে দেয়।

গবেষকরা জানান, বর্তমানে যে নিরাপত্তা ব্যবস্থা আছে তা এই ধরনের লুকানো বার্তা শনাক্ত করতে পর্যাপ্ত নয়।

গবেষণায় পাঁচশ বিশ জন প্রতিযোগী এবং তেইশ ধরনের আলাদা আক্রমণ পদ্ধতি পরীক্ষা করা হয়েছে। ফলাফলের ভিত্তিতে সতর্ক করা হয়েছে যে ওয়েবে ছড়িয়ে থাকা এই ধরনের ইনডাইরেক্ট প্রম্পট ইনজেকশন এবং মেমোরি পয়জনিং এখন বাস্তব এবং গুরুতর সমস্যা।

 বিশেষজ্ঞরা বলেন, যখন একাধিক এজেন্ট একসাথে কাজ করে, তখন শুধু একটি এজেন্ট আক্রান্ত হলেই পুরো সিস্টেমের ফলাফল বদলে যেতে পারে।

এখন প্রশ্ন হল, সমস্যা যেহেতু আছে তার সমাধান কী? বিশেষজ্ঞদের মতে, প্রতিকার সম্ভব, তবে তা কেবল প্রযুক্তির ওপর নির্ভর করে নয়। প্রথম পদক্ষেপ হলো নিরাপত্তা-প্রথম নীতি অনুসরণ করা।

এআই এজেন্টকে ওয়েবে তথ্য আনতে দেওয়ার আগে তার ইনপুট, আউটপুট এবং আচরণের ওপর কড়াকড়ি নজর রাখা জরুরি। ইনপুট স্যানিটাইজেশন আরও শক্তিশালী করতে হবে, শুধু টেক্সট নয়, ছবি, পিডিএফ এবং অন্যান্য ফাইলের মধ্যে লুকানো বার্তা শনাক্ত করতে হবে। মাল্টি-মডাল স্ক্যানিং এবং অস্বাভাবিক আচরণ শনাক্ত করার অ্যালগরিদম এ ক্ষেত্রে সাহায্য করতে পারে।

তাছাড়া, মাল্টি এজেন্ট সিস্টেমে ভেরিফিকেশন চেইন রাখা প্রয়োজন। একাধিক এজেন্টের মধ্যে তথ্য যাচাই ও ক্রস-চেকিং করলে, কোনো এক এজেন্ট আক্রান্ত হলেও পুরো চেইন ক্ষতিগ্রস্ত হবে না।

সবশেষে, রিয়েল-টাইম মনিটরিং এবং অ্যালার্ট সিস্টেম স্থাপন করা জরুরি। এতে এজেন্ট কোনো অস্বাভাবিক বা ক্ষতিকর কমান্ডের মুখোমুখি হলে তা সঙ্গে সঙ্গে শনাক্ত করা যাবে এবং ব্যবহারকারী বা প্রশাসককে সতর্ক করা সম্ভব হবে।

মোটকথা, বিশেষজ্ঞরা বলছেন, প্রযুক্তি উন্নয়ন একমাত্র যথেষ্ট নয়; এআই এজেন্ট ব্যবহারে এখন নিরাপত্তা-প্রথম মনোভাব এবং বহুস্তরীয় ভেরিফিকেশন বাধ্যতামূলক হয়ে উঠেছে, নইলে আপনি কখনও বুঝতে পারবেন না কোন ক্লিক আপনার এজেন্টকে ভুল পথে ঠেলে দিচ্ছে।