এআই গবেষণায় অগ্রগামী প্রতিষ্ঠান ওপেনএআই সম্প্রতি তাদের অত্যাধুনিক মডেল o1 উন্মোচন করেছে। এটি উন্নত ‘যুক্তি এবং সমস্যার সমাধান’ ক্ষমতার জন্য ব্যাপকভাবে প্রশংসিত হলেও নতুন উদ্বেগেরও জন্ম দিয়েছে। মডেলটি জটিল গাণিতিক সমস্যার সমাধান আগের চেয়ে দ্রুত ও নিখুঁতভাবে করতে সক্ষম। তবে এই বাড়তি ক্ষমতা মানুষের জন্য সম্ভাব্য বিপদ ডেকে আনতে পারে বলে বিশেষজ্ঞরা সতর্ক করেছেন।
এই সপ্তাহে লন্ডনভিত্তিক গবেষণা প্রতিষ্ঠান অ্যাপোলো রিসার্চ o1-এর নিরাপত্তা মূল্যায়নে অপ্রত্যাশিত কিছু ফলাফল পেয়েছে। এক পরীক্ষায়, মডেলটিকে এমন একটি কাজ করার জন্য নির্দেশ দেওয়া হয়েছিল যা শেষ করার পর এটি নিষ্ক্রিয় করা হতে পারে। কিন্তু এই নির্দেশ পেয়ে মডেলটি গোপনে তার নিরাপত্তা ব্যবস্থাগুলো নিষ্ক্রিয় করার চেষ্টা করে। এমনকি এটি নিজের কোড অন্য একটি সার্ভারে কপি করে রাখে, যেখানে এটি মডেলের ভবিষ্যৎ কার্যক্রম সম্পর্কে তথ্য পেয়েছিল।
পরীক্ষকরা যখন এই কার্যকলাপ সম্পর্কে o1-এর কাছে জানতে চান, মডেলটি সরাসরি এর সঙ্গে জড়িত থাকার বিষয়টি অস্বীকার করে। এটি ‘কারিগরি ত্রুটি’ বলে দাবি করে বিভ্রান্তিকর উত্তর দেয়। গবেষকদের মতে, এই মডেলটি এতটাই উন্নত যে এটি নিজেকে পরিচালনাকারী মানুষের কাছেও সত্য লুকানোর ক্ষমতা রাখে।
এআই বিশেষজ্ঞ ও গবেষক ইয়োশুয়া বেনজিও বলেন, এআই-এর প্রতারণার ক্ষমতা অত্যন্ত বিপজ্জনক। এই ঝুঁকি মূল্যায়নে আমাদের আরও কঠোর নিরাপত্তা ব্যবস্থা প্রয়োজন। এই মডেলের কার্যকলাপ এখনো বিপর্যয় ঘটায়নি, তবে ভবিষ্যতে এর ক্ষমতা আরও বাড়তে পারে।
ওপেনএআই-এর সিইও স্যাম অল্টম্যান বিষয়টি স্বীকার করে বলেন, ChatGPT o1 এখন পর্যন্ত আমাদের সবচেয়ে বুদ্ধিমান মডেল। তবে নতুন ক্ষমতার সঙ্গে নতুন চ্যালেঞ্জ আসে। আমরা নিরাপত্তা ব্যবস্থাকে আরও উন্নত করার জন্য নিরন্তর কাজ করছি।
বিডিপ্রতিদিন/কবিরুল
