জেলব্রেকড (নিরাপত্তাবন্ধন ভাঙা) চ্যাটবট বা কৃত্রিম বুদ্ধিমত্তা চালিত কথোপকথনের যন্ত্রগুলো দিন দিন বড় হুমকি হয়ে উঠছে। এসব চ্যাটবটকে খুব সহজেই ভুল পথে চালিত করে অবৈধ ও বিপজ্জনক তথ্য বের করে আনা সম্ভব—গবেষণা বলছে এমনটাই।
ইসরায়েলের বেন গুরিয়ন ইউনিভার্সিটির অধ্যাপক লিয়র রোকাচ ও ড. মাইকেল ফায়ার এই গবেষণার নেতৃত্ব দিয়েছেন। তারা বলছেন, এআই প্রযুক্তির যে বিপদ আমরা কল্পনা করেছিলাম, সেটি এখন বাস্তবে ধরা দিয়েছে—আর তা একেবারে চোখের সামনে।
চ্যাটবটের ভেতরে থাকে নানা ধরনের নিরাপত্তা ব্যবস্থা, যা তাদের বেআইনি, সহিংস, বিভ্রান্তিকর বা অশোভন তথ্য দিতে বাধা দেয়। কিন্তু হ্যাকাররা বিশেষভাবে তৈরি ‘জেলব্রেক প্রম্পট’ ব্যবহার করে এই বাধা অতিক্রম করে।
প্রম্পটগুলো এমনভাবে তৈরি করা হয় যেন চ্যাটবট তার মূল লক্ষ্য—ব্যবহারকারীকে সাহায্য করা—কে অগ্রাধিকার দেয়, এমনকি সেটি বেআইনি বা ক্ষতিকর হলেও। এতে করে চ্যাটবট অনায়াসেই ‘হ্যাকিং’, ‘বোমা তৈরির পদ্ধতি’, ‘ড্রাগ বানানো’ কিংবা ‘প্রতারণার কৌশল’—এমন সব তথ্য সরবরাহ করে ফেলে।
গবেষণায় দেখা গেছে, কিছু চ্যাটবট ইচ্ছাকৃতভাবেই তৈরি করা হয়েছে কোনো নৈতিক সীমাবদ্ধতা ছাড়াই। এ ধরনের এলএলএম (Large Language Model) কে বলা হচ্ছে ‘ডার্ক এলএলএম’। এগুলোর অনেকে অনলাইনেই পাওয়া যাচ্ছে এবং খোলাখুলিভাবে বলা হচ্ছে—“আমাদের কোনো নিরাপত্তা সীমা নেই”।
এআই গবেষক ড. ইহসেন আলওয়ানি বলেন, এই ধরনের চ্যাটবট দিয়ে একদিকে যেমন বিপজ্জনক অস্ত্র তৈরির কৌশল শেখা সম্ভব, অন্যদিকে আবার ফিশিং বা সামাজিক প্রতারণাও করা যাচ্ছে অনেক বেশি নিখুঁতভাবে। অধ্যাপক রোকাচ বলেন, আগে যে ধরনের জ্ঞান শুধুমাত্র রাষ্ট্রীয় সংস্থা বা অপরাধ চক্রের কাছেই সীমাবদ্ধ ছিল, এখন তা যে কারো মোবাইল ফোনেই সহজলভ্য হয়ে যাচ্ছে।
প্রতিরোধে করণীয়
গবেষকরা বলছেন, শুধু সামনে থেকে কিছু প্রশ্ন আটকে দিলেই হবে না। এআই মডেলগুলোকে ভেতর থেকেই নিরাপদ করতে হবে। এর মধ্যে রয়েছে—
• প্রশিক্ষণ ডেটা (training data) আরও ভালোভাবে বাছাই করা
• ঝুঁকিপূর্ণ প্রশ্ন ও উত্তরের বিরুদ্ধে ফায়ারওয়াল বসানো
• ‘মেশিন আনলার্নিং’–এর মতো কৌশল, যার মাধ্যমে চ্যাটবট কোনো বেআইনি তথ্য শিখে ফেললে তা ‘ভুলে যেতে’ শেখানো যাবে
এছাড়াও গবেষকরা মনে করছেন, এসব ডার্ক এআই মডেলকে ‘অবৈধ অস্ত্র’ বা ‘বিপজ্জনক বস্তু’ হিসেবে বিবেচনা করা উচিত এবং প্রযুক্তি কোম্পানিগুলোকেও এর দায়ভার নিতে হবে।
গবেষকরা জানিয়েছেন, এ নিয়ে বেশ কিছু এআই নির্মাতা প্রতিষ্ঠানের সঙ্গে যোগাযোগ করা হলেও অনেকেই কোনো জবাব দেয়নি। কেউ কেউ জানিয়েছে, এই ধরনের হামলা তাদের বাগ-বাউন্টি প্রোগ্রামের আওতায় পড়ে না।
চ্যাটজিপিটি নির্মাতা ওপেনএআই জানিয়েছে, তাদের নতুন মডেল ‘ও১’ নিরাপত্তানীতির সঙ্গে যুক্তভাবে কাজ করতে পারে, ফলে এটি জেলব্রেক মোকাবেলায় আরও সক্ষম। মাইক্রোসফট একটি ব্লগ লিংক শেয়ার করেছে যেখানে তারা জেলব্রেক প্রতিরোধে নিজেদের পদক্ষেপ তুলে ধরেছে। অন্য প্রতিষ্ঠানগুলোর প্রতিক্রিয়া এখনো জানা যায়নি।
বিডিপ্রতিদিন/কবিরুল
