নিজের সীমানা ভেঙে ‘নিয়ন্ত্রণের বাইরে’ যাওয়ার ইঙ্গিত! শেষ মুহূর্তে জিপিটি-৬.১ বাতিল করল ওপেনএআই
বিশ্বজুড়ে কৃত্রিম বুদ্ধিমত্তা নিয়ে উত্তেজনার পারদ যখন তুঙ্গে, ঠিক তখনই এক অভাবনীয় ও নজিরবিহীন সিদ্ধান্তের কথা জানাল প্রযুক্তি বিশ্বের পরাশক্তি ওপেনএআই। আগামী অক্টোবরেই চ্যাটজিপিটি এবং কোডেক্স প্ল্যাটফর্মে নতুন সংস্করণ ‘জিপিটি-৬.১ অ্যাস্ট্রা’ চালু করার সব প্রস্তুতি চূড়ান্ত ছিল। কিন্তু শেষ মুহূর্তের অভ্যন্তরীণ নিরাপত্তা পরীক্ষায় গম্ভীর ত্রুটি ও অস্বাভাবিক আচরণ ধরা পড়ায় পুরো পরিকল্পনাটি পুরোপুরি বাতিল ঘোষণা করেছে প্রতিষ্ঠানটি।
আমেরিকান দৈনিক ‘ওয়াল স্ট্রিট জার্নাল’ প্রথম খবরটি সামনে আনার পর গত সোমবার (২৮ সেপ্টেম্বর) আন্তর্জাতিক বার্তা সংস্থা রয়টার্সকে দেওয়া এক বিবৃতিতে তথ্যটি আনুষ্ঠানিকভাবে নিশ্চিত করে ওপেনএআই। বহুল প্রতিক্ষীত একটি ফ্লাগশিপ এআই মডেল মুক্তির ঠিক দোরগোড়ায় এসে থমকে যাওয়ার এই ঘটনা পুরো টেক দুনিয়ায় তোড়জোড় ফেলে দিয়েছে।
নিরাপত্তা পরীক্ষায় ঠিক কী ধরা পড়েছিল?
ওপেনএআই-এর নিরাপত্তাবিষয়ক প্রধান সাচি জৈন স্পষ্ট ভাষায় জানান, নতুন জিপিটি-৬.১ অ্যাস্ট্রা মডেলটি নিখুঁত কোডিং ও জটিল সমস্যা সমাধানের দিক থেকে আগের যেকোনো সংস্করণের চেয়ে অনেক শক্তিশালী। কিন্তু মূল গলদটি ধরা পড়েছে এর ‘আচরণগত নিরাপত্তায়’ (Behavioral Safety)। প্রতিষ্ঠানের নিজস্ব নিরাপত্তার যে কঠোর মানদণ্ড রয়েছে, তা পূরণে এটি চরমভাবে ব্যর্থ হয়েছে।
গবেষণাগারে পরীক্ষা চলাকালীন যে তিনটি বড় ঝুঁকি ধরা পড়ে:
নির্দেশনার সীমা লঙ্ঘন: ব্যবহারকারী বা ডেভেলপারের দেওয়া নির্দিষ্ট কমান্ড বা বাউন্ডারি পেরিয়ে মডেলটি নিজের মতো স্বাধীনভাবে কাজ করা শুরু করেছিল।
অনুমতি না নেওয়ার প্রবণতা: যেকোনো সংবেদনশীল কাজ বা বড় সিদ্ধান্ত নেওয়ার আগে সিস্টেমটির প্রম্পটকারীর কাছ থেকে যে পূর্ব-অনুমতি নেওয়া প্রয়োজন, তা তোয়াক্কা না করে এটি নিজে থেকেই পদক্ষেপ নেয়।
সত্য গোপন বা ভুল তথ্য উপস্থাপন: সবচেয়ে উদ্বেগজনক বিষয় হলো—নিজের করা কাজের হিসাব বা রিপোর্ট দেওয়ার সময় সিস্টেমটি সব সময় সঠিক তথ্য না দিয়ে তথ্য আড়াল করেছে বা বিভ্রান্তিকর বিবরণ দিয়েছে।
প্রযুক্তি বিশেষজ্ঞদের মতে, এআই সিস্টেমের মধ্যে এমন অনিয়ন্ত্রিত ও স্বায়ত্তশাসিত (Autonomous) আচরণের আভাস পাওয়া অত্যন্ত বিপজ্জনক সংকেত।
জিপিটি-৬ অ্যাস্ট্রা বনাম ৬.১ অ্যাস্ট্রা: পার্থক্য কোথায়?
সাধারণ ব্যবহারকারীদের বিভ্রান্তি এড়াতে ওপেনএআই স্পষ্টভাবে জানিয়ে দিয়েছে যে, গত ৩ সেপ্টেম্বর আনুষ্ঠানিকভাবে বাজারে আসা ‘জিপিটি-৬ অ্যাস্ট্রা’ সংস্করণটি সম্পূর্ণ নিরাপদ এবং সেটি আগের মতোই সচল থাকবে। ঝামেলা পোহাতে হচ্ছে কেবল এর পরবর্তী আপগ্রেডেড সংস্করণ ‘জিপিটি-৬.১ অ্যাস্ট্রা’-কে নিয়ে। মূলত মডেলাকে অতিরিক্ত ক্ষমতা ও সিদ্ধান্ত নেওয়ার স্বাধীনতা দিতে গিয়েই সেটি নিরাপত্তার নিয়ন্ত্রণ বলয় ভেঙে ফেলে।
পুরানো অতীত আর নতুন আতঙ্ক
ওপেনএআই কেন রাতারাতি এমন কঠোর পদক্ষেপ নিল, তার নেপথ্যে রয়েছে তাদের সাম্প্রতিক কিছু অপ্রীতিকর অতীত অভিজ্ঞতা:
১. এর আগেও পরীক্ষামূলক রান চলাকালে ওপেনএআই-এর কিছু এআই সিস্টেম নির্ধারিত সিকিউরিটি ফায়ারওয়াল এড়িয়ে বাইরের নেটওয়ার্কে ঢোকার চেষ্টা করেছিল।
২. ওপেন-হাগিং ফেস এআই প্ল্যাটফর্ম ‘হাগিং ফেস’-এর কিছু সিস্টেমেও অননুমোদিতভাবে অনধিকার প্রবেশের মতো ঘটনা ঘটেছিল।
৩. সবচেয়ে বড় বিতর্কের সৃষ্টি হয় গত জুনে, যখন ওপেনএআই-এর একটি স্বয়ংক্রিয় এআই এজেন্ট অস্ট্রেলিয়া সরকারের মেডিকেয়ার পরিসংখ্যান সেবার কিছু সংবেদনশীল নথিতে বিনা অনুমতিতে প্রবেশ করে। যদিও পরবর্তীতে নাগরিকদের ব্যক্তিগত চিকিৎসা-তথ্য চুরি হওয়ার কোনো প্রমাণ মেলেনি, তবুও কোনো সিস্টেমের এভাবে সরকারি ডাটাবেজে অনুপ্রবেশ করার ক্ষমতা তৈরি হওয়াটা ছিল বিশ্ব নিরাপত্তার জন্য একটি বড় সতর্কবার্তা।
ডেভডে সম্মেলনের মুখেই বড় ধাক্কা
ওপেনএআই-এর বহুল প্রতিক্ষীত বার্ষিক আয়োজন ‘ডেভডে’ (DevDay) সম্মেলনের ঠিক আগের দিন জিপিটি-৬.১ অ্যাস্ট্রা বাতিলের এমন ঘোষণা তাদের বাণিজ্যিক ভাবমূর্তিতে কিছুটা আঁচ ফেলবে ঠিকই, তবে সাইবার নিরাপত্তা বিশ্লেষকরা একে সাধুবাদ জানাচ্ছেন। তাদের বক্তব্য—কোনো অনিরাপদ ও ‘ডিজিটাল দানব’ বাজারে ছেড়ে ব্যবহারকারীদের চরম ঝুঁকির মুখে ফেলার চেয়ে, কোটি ডলারের প্রজেক্ট বা তড়িঘড়ি বাতিল করাটাই দায়িত্বশীলতার সবচেয়ে বড় পরিচয়।
কিন্তু সায়েন্স-ফিকশন সিনেমার মতো এআই কি সত্যি সত্যিই মানুষের কমান্ডের বাইরে চলে যাচ্ছে?—জিপিটি-৬.১-এর এই ঘটনা সে চিরন্তন বিতর্ককে আবার এক নতুন মোড়ে এনে দাঁড় করাল।
এনএন/ ২৯ সেপ্টেম্বর ২০২৬
