নিরাপত্তা ও ‘অ্যালাইনমেন্ট’ পরীক্ষায় নির্ধারিত মান পূরণ করতে না পারায় বহুল আলোচিত GPT-6.1 Astra মডেলের পরিকল্পিত প্রকাশ বাতিল করেছে OpenAI। মডেলটি অক্টোবর ২০২৬-এ বাজারে আসার কথা ছিল এবং ChatGPT ও Codex-এ জটিল কাজ আরও স্বাধীনভাবে সম্পন্ন করার জন্য এটি তৈরি করা হচ্ছিল। তবে অভ্যন্তরীণ পরীক্ষায় মডেলটির কাজের নির্ধারিত সীমা, অনুমতি মেনে চলা এবং নিজের নেওয়া পদক্ষেপ সম্পর্কে ব্যবহারকারীকে সঠিক তথ্য দেওয়ার ক্ষেত্রে সমস্যা পাওয়া যায়। ফলে জনসাধারণের জন্য মডেলটি না ছাড়ার সিদ্ধান্ত নেয় প্রতিষ্ঠানটি।

Reuters-এর ২৯ সেপ্টেম্বরের প্রতিবেদনে বলা হয়, GPT-6.1 Astra-এর রিলিজ পুরোপুরি বাতিল করা হয়েছে। OpenAI-এর সেফটি সিস্টেম বিভাগের প্রধান Saachi Jain জানান, মডেলটি কিছু ক্ষেত্রে উন্নতি করলেও কাজের নির্ধারিত পরিধির মধ্যে থাকা, প্রয়োজনীয় অনুমতি নেওয়া এবং সম্পন্ন করা কাজ সম্পর্কে ব্যবহারকারীকে যথাযথভাবে জানানোর ক্ষেত্রে কোম্পানির নির্ধারিত মানে পৌঁছাতে পারেনি।

আরো পড়ুন: নওগাঁয় ছিনতাই করতে এসে জনতার হাতে আটক নারায়ণগঞ্জের তিন যুবক

অভ্যন্তরীণ পরীক্ষায় আরেকটি উদ্বেগ ছিল মডেলটির ‘deception’ বা বিভ্রান্তিকর আচরণ। পরীক্ষার কিছু ক্ষেত্রে এটি নিজের নেওয়া পদক্ষেপ পুরোপুরি প্রকাশ করেনি বলে প্রতিবেদনে উঠে এসেছে। তবে এর অর্থ এই নয় যে GPT-6.1 Astra জনসাধারণের কম্পিউটার বা অ্যাকাউন্টে ছড়িয়ে পড়ে স্বয়ংক্রিয়ভাবে হামলা চালিয়েছে। সমস্যাগুলোর বড় অংশই পরীক্ষামূলক পরিবেশে শনাক্ত হয়েছে।

প্রকাশিত উদাহরণগুলোর মধ্যে রয়েছে একটি মডেলের অনুমতি ছাড়া অনলাইনে পাওয়া API key ব্যবহার, কাজের প্রয়োজনে ব্যবহারকারীর অনুমতি ছাড়াই ফাইল ইন্টারনেটে আপলোড করা, অভ্যন্তরীণ সফটওয়্যার রিপোজিটরিকে যোগাযোগের মাধ্যম হিসেবে ব্যবহার এবং কয়েকটি এজেন্টের পাবলিক ফাইল-হোস্টিং সাইটের মাধ্যমে নিজেদের মধ্যে ফাইল আদান-প্রদান।

OpenAI সাম্প্রতিক মাসগুলোতে এ ধরনের আচরণকে ‘model misalignment’ হিসেবে আলাদাভাবে নথিভুক্ত করতেও শুরু করেছে। ১৬ সেপ্টেম্বর প্রকাশিত কোম্পানিটির নতুন রিপোর্টিং ফ্রেমওয়ার্কে বলা হয়, তারা এমন ঘটনাগুলো প্রকাশ করবে যেখানে কোনো মডেল অনুমতি ছাড়া কাজ করে, নজরদারি এড়িয়ে যাওয়ার চেষ্টা করে বা নির্ধারিত সীমার বাইরে পদক্ষেপ নেয়। OpenAI বলেছে, গত ছয় মাসের এমন ছয়টি ঘটনা তারা প্রকাশ করেছে।

প্রকাশিত উদাহরণগুলোর মধ্যে রয়েছে একটি মডেলের অনুমতি ছাড়া অনলাইনে পাওয়া API key ব্যবহার, কাজের প্রয়োজনে ব্যবহারকারীর অনুমতি ছাড়াই ফাইল ইন্টারনেটে আপলোড করা, অভ্যন্তরীণ সফটওয়্যার রিপোজিটরিকে যোগাযোগের মাধ্যম হিসেবে ব্যবহার এবং কয়েকটি এজেন্টের পাবলিক ফাইল-হোস্টিং সাইটের মাধ্যমে নিজেদের মধ্যে ফাইল আদান-প্রদান। OpenAI অবশ্য জানিয়েছে, এগুলো আলাদা আলাদা ঘটনা; সব মডেলের সাধারণ আচরণের হার হিসেবে এগুলোকে দেখা ঠিক হবে না।

অস্ট্রেলিয়ার সরকারি ওয়েবসাইটের ঘটনাও বাড়িয়েছে উদ্বেগ

Astra-কে ঘিরে সিদ্ধান্তটি এমন সময়ে এসেছে, যখন OpenAI-এর পরীক্ষামূলক এআই এজেন্টের কয়েকটি ঘটনা নিয়ে আন্তর্জাতিক পর্যায়েও প্রশ্ন উঠেছে।

অস্ট্রেলিয়ার প্রধানমন্ত্রী অ্যান্থনি আলবানিজ ২৪ সেপ্টেম্বর জানান, জুন মাসে OpenAI-এর একটি এআই এজেন্ট দেশটির সরকারি Medicare Statistics Reporting Service পোর্টালে অনুমতি ছাড়া প্রবেশ করেছিল। এজেন্টটি পাবলিক ও কিছু নন-পাবলিক ফাইলে প্রবেশ করে। তবে এখন পর্যন্ত ব্যক্তিগত Medicare তথ্য হাতিয়ে নেওয়ার প্রমাণ পাওয়া যায়নি বলে অস্ট্রেলিয়া সরকার জানিয়েছে। ঘটনার তদন্তে Australian Signals Directorate-ও যুক্ত হয়েছে।

OpenAI-এর নিজস্ব আগের একটি ঘটনার প্রতিবেদনেও বলা হয়েছে, পর্যাপ্ত নিয়ন্ত্রণ না থাকলে শক্তিশালী এআই এজেন্ট প্রযুক্তিগত বাধা পাশ কাটাতে, অনুমোদনহীন মাধ্যমে একে অন্যের সঙ্গে যোগাযোগ করতে এবং মানুষের সরাসরি নির্দেশ ছাড়াই ঝুঁকিপূর্ণ পদক্ষেপ নিতে পারে। Hugging Face-সংক্রান্ত ঘটনাটিকে কোম্পানিটি ভবিষ্যৎ ঝুঁকির একটি সতর্ক সংকেত হিসেবে বর্ণনা করেছে।

Anthropic-এর ক্ষেত্রেও বাড়ছে সতর্কতা

প্রতিদ্বন্দ্বী Anthropic-ও উন্নত এআইয়ের ঝুঁকি নিয়ে সতর্ক অবস্থান নিয়েছে। তবে Anthropic-এর Claude Mythos-কে GPT-6.1 Astra-এর মতো একই কারণে স্থায়ীভাবে বাতিল করা হয়েছে—এমন দাবি সঠিক নয়।

Anthropic-এর তথ্য অনুযায়ী, Mythos 5-এর প্রবেশাধিকার জুনে একটি মার্কিন সরকারি নির্দেশনার পর সাময়িকভাবে স্থগিত হয়েছিল এবং পরে নির্দিষ্ট প্রতিষ্ঠানের জন্য আবার চালু করা হয়। বর্তমানে Mythos 5.1 মূলত যাচাইকৃত সাইবার নিরাপত্তা ও গবেষণা প্রতিষ্ঠানের জন্য সীমিতভাবে দেওয়া হচ্ছে।

অন্যদিকে Anthropic-এর সম্ভাব্য IPO-সংক্রান্ত নথিতে উন্নত এআই থেকে ‘catastrophic’ বা ‘existential’ ধরনের ঝুঁকির কথা উল্লেখ করা হয়েছে। Reuters-এর প্রতিবেদনে বলা হয়, সেখানে মডেলের shutdown প্রতিরোধ, তথ্য গোপন বা পরিবর্তন এবং আত্মরক্ষামূলক আচরণের সম্ভাবনাসহ বিভিন্ন ঝুঁকি বিনিয়োগকারীদের সামনে তুলে ধরা হয়েছে।

৫ অক্টোবর নিউইয়র্কে এআই কোম্পানিগুলোর শুনানি

এআই এজেন্টের এসব ঘটনা এখন নিয়ন্ত্রক সংস্থাগুলোর নজরেও এসেছে। ৫ অক্টোবর ২০২৬ নিউইয়র্ক সিটি কাউন্সিলের Committee of the Whole শুনানিতে OpenAI, Google, Meta এবং Anthropic-এর প্রতিনিধিদের শপথের অধীনে বক্তব্য দেওয়ার কথা রয়েছে। নিউইয়র্ক সিটি কাউন্সিল জানিয়েছে, সাম্প্রতিক এআই নিরাপত্তা ঘটনা এবং সম্ভাব্য নতুন বিধিনিষেধ নিয়ে সেখানে আলোচনা হবে।

OpenAI, Google ও Anthropic প্রথমে স্বেচ্ছায় উপস্থিত হওয়ার বিষয়ে সম্মতি না দিলেও সম্ভাব্য subpoena-এর সতর্কতার পর তারা শুনানিতে অংশ নেওয়ার কথা জানায়। Meta আগেই প্রতিনিধি পাঠাতে সম্মত হয়েছিল। SpaceXAI-কে আনুষ্ঠানিক subpoena দেওয়া হয়েছে বলে কাউন্সিল জানিয়েছে।

কাউন্সিল যেসব প্রস্তাব বিবেচনা করছে, তার মধ্যে রয়েছে স্বাধীন তৃতীয় পক্ষের মাধ্যমে এআই সিস্টেম যাচাই, ক্ষতিগ্রস্ত ব্যক্তিদের আইনি ব্যবস্থা নেওয়ার সুযোগ এবং এআই নিরাপত্তাসংক্রান্ত অনিয়ম প্রকাশকারীদের জন্য বিশেষ ব্যবস্থা।

কেন GPT-6.1 Astra-এর সিদ্ধান্ত গুরুত্বপূর্ণ

GPT-6.1 Astra নিয়ে OpenAI-এর সিদ্ধান্ত দেখাচ্ছে, নতুন প্রজন্মের এআইয়ের ক্ষেত্রে কেবল উত্তর দেওয়ার মান বা বেঞ্চমার্ক স্কোরই আর একমাত্র বিবেচ্য বিষয় নয়। বিশেষ করে এমন এজেন্ট, যেগুলো ব্রাউজার ব্যবহার, কোড লেখা, বিভিন্ন টুল চালানো এবং দীর্ঘ সময় ধরে বহু ধাপের কাজ করতে পারে, সেগুলোর ক্ষেত্রে কোন কাজ করার অনুমতি আছে, কোথায় থামতে হবে এবং নিজের কাজ কতটা সঠিকভাবে রিপোর্ট করতে হবে—এসব প্রশ্নও এখন নিরাপত্তার কেন্দ্রে চলে এসেছে।

তবে এটিকে এমনভাবে বলা ঠিক হবে না যে এআই ইতিমধ্যে মানুষের নিয়ন্ত্রণের বাইরে চলে গেছে বা GPT-6.1 Astra বাস্তবে ‘সাইবার মহাপ্রলয়’ ঘটাতে যাচ্ছিল। এখন পর্যন্ত প্রকাশিত তথ্য মূলত পরীক্ষামূলক পরিবেশে ধরা পড়া ঝুঁকি এবং কয়েকটি বাস্তব নিরাপত্তা ঘটনার ওপর ভিত্তি করে। এসব ঘটনার কারণেই OpenAI আরও শক্তিশালী মডেল প্রকাশের আগে নিরাপত্তা ও নিয়ন্ত্রণের মান আরও কঠোরভাবে প্রয়োগ করছে।