এআইয়ের পরিণতি ঠেকাতে কেউ প্রস্তুত নয়: ওপেনএআই বিজ্ঞানী

ওই সময় ঘটনাটিকে ‘নজিরহীন’ বলে বর্ণনা করেছে ওপেনএআই।

এর রেশ কাটতে না কাটতেই সেপ্টেম্বরে প্রকাশ পাওয়া রয়টার্সের প্রতিবেদনে দাবি করা হয়েছে, হাগিং ফেইসে অনাকাঙ্খিত সাইবার ঘটনারও কিছুদিন আগে ওপেনএআইয়ের এআই এজেন্টগুলো জার্মান এক উইকি ওয়েবসাইটও হাইজ্যাক করেছিল।

এসব ঘটনার প্রসঙ্গ টেনে পাচোকি বলেছেন, “আমরা এমন এক ভবিষ্যতের দিকে পা বাড়াচ্ছি যেখানে বিস্ময়কর রকম বুদ্ধিমান যন্ত্রের রাজত্ব তৈরি হবে। এ রূপান্তর যেন মানবজাতির জন্য কোনো সংকট তৈরি না করে তা আমাদেরই নিশ্চিত করতে হবে।”

তিনি বলেছেন, যন্ত্রের কাজ এবং এর লক্ষ্য যেন মানুষের উদ্দেশ্য ও নিরাপত্তার বিভিন্ন শর্তের সঙ্গে পুরোপুরি সামঞ্জস্যপূর্ণ বা প্রযুক্তির ভাষায় ‘ইন এলাইনমেন্ট’ থাকে তা নিশ্চিত করতে ওপেনএআই কাজ করে যাচ্ছে। পাশাপাশি সুরক্ষামূলক ব্যবস্থা জোরদার করতেও তারা সচেষ্ট।

ভবিষ্যতের পরিকল্পনা তুলে ধরে পাচোকি বলেছেন, এআই খাতের দ্রুতগতির সঙ্গে তাল মিলিয়ে চলা ও গবেষণা প্রক্রিয়ায় মানব গবেষকদের সম্পৃক্ততা ধরে রাখার স্বার্থে ‘স্বয়ংক্রিয় এআই গবেষক’ তৈরি করাটাই হবে কোম্পানিটির অন্যতম প্রধান অগ্রাধিকার।

উন্নত এআই নিরাপত্তা ঝুঁকি ঠেকাতে ওপেনএআই যে অভ্যন্তরীণ এআই এজেন্ট দিয়ে গবেষণা চালানোর প্রস্তাব দিয়েছে তা নিয়ে তীব্র সমালোচনা করেছেন প্রযুক্তি বিশেষজ্ঞরা।

‘ইউনিভার্সিটি অফ কেমব্রিজ’-এর ‘মাইন্ডারু সেন্টার ফর টেকনোলজি অ্যান্ড ডেমোক্রেসি’র প্রধান অধ্যাপক জিনা নেফ বলেছেন, “মানুষকে নিরাপদ রাখতে আরও ভালো এআই গার্ডরেইল, নিয়মের ব্যবস্থা করার পরিবর্তে তারা এসব সমস্যা নিয়ে গবেষণার জন্য অভ্যন্তরীণ এআই এজেন্ট তৈরির প্রস্তাব দিচ্ছে।

“ওপেনএআইয়ের বিভিন্ন মডেলের কারণে সাইবার নিরাপত্তা, কর্মসংস্থান হ্রাস, ভুলত্রুটি ও জালিয়াতির যেসব সমস্যা তৈরি হচ্ছে ক্রমাগত সেসব উদ্বেগের জবাবে এ ধরনের প্রস্তাব মোটেও যথেষ্ট নয়।”

এদিকে, অ্যাডভোকেসি গ্রুপ ‘এনকোড এআই’-এর জেনারেল কাউন্সেল নাথান ক্যালভিন উন্নত এআই মডেলের বিকাশ ঘটানোর ক্ষেত্রে ইয়াকুব পাচোকির তুলে ধরা ঝুঁকির সঙ্গে একমত হয়েছেন।

তবে তিনি দাবি করেছেন, ওপেনএআই স্বচ্ছতা ধরে রাখতে ইচ্ছুক নয়। এর ফলে তাদের এ ধরনের বিভিন্ন সতর্কবার্তা কেবল ‘স্বার্থান্বেষী প্রচার বা হাইপ’ হিসেবে খারিজ হয়ে যাওয়ার ঝুঁকি তৈরি হয়েছে।

সামাজিক মাধ্যম এক্স-এ তিনি লিখেছেন, “ইয়াকুব ও ওপেনএআইয়ের অন্য কর্মকর্তারা যদি চান, এআই খাতের সংশ্লিষ্ট ব্যক্তিরা পরিস্থিতি অনুকূলে রাখতে তাদের সঙ্গে মিলে কাজ করুক তবে তাদের জন্য সবচেয়ে গুরুত্বপূর্ণ কাজ হবে, তারা ঠিক কী দেখছেন বা কোন বিষয়গুলো তাদের সতর্ক হতে বাধ্য করছে সে বিষয়ে আরও বেশি তথ্য শেয়ার করা।”

বর্তমানে কী ধরনের এআই গার্ডরেইল কার্যকর রয়েছে?

এআইয়ের অগ্রগতির গতির সঙ্গে বৈশ্বিক বিভিন্ন বিধান তাল মিলিয়ে চলতে হিমশিম খাচ্ছে। ২ অগাস্ট ইউরোপীয় ইউনিয়নের ‘এআই অ্যাক্ট’ কার্যকর হয়েছে।

এ আইন অনুসারে, ওপেনএআইয়ের মতো প্রযুক্তি জায়ান্টরা তাদের সবচেয়ে শক্তিশালী বিভিন্ন মডেল ইউরোপে বিক্রির অনুমতি পাওয়ার আগে প্রমাণ করতে হবে যে সেগুলো স্বাধীনভাবে সাইবার আক্রমণ চালাতে পারে না বা মানুষের নিয়ন্ত্রণ এড়িয়ে চলতে পারে না।

তবে এ আইনের এখতিয়ার কেবল ইউরোপের মধ্যেই সীমিত থাকায় অন্য কোথাও তৈরি কোনো অনিয়ন্ত্রিত এআই যদি মহাদেশটির জন্য হুমকি হয়ে দাঁড়ায় তবে তা ঠেকাতে এআই আইন কার্যকর নয়।

নিজের ব্লগ পোস্টে পাচোকি আইনগতভাবে বা আন্তর্জাতিকভাবে বাধ্যতামূলক সর্বনিম্ন নিরাপত্তা নির্ধারণের আহ্বান জানিয়ে বলেছেন, এগুলো কোনো ‘তৃতীয় পক্ষের নিরীক্ষকদের নেটওয়ার্ক’ বা ‘সরকারি সংস্থাগুলোর’ মাধ্যমে কার্যকর হতে পারে।

তিনি বলেছেন, উন্নত মডেলগুলোর স্কেলিং বা ডেপ্লয়মেন্ট চালিয়ে যাওয়ার অনুমতি পাওয়ার আগে এআই ল্যাবগুলোকে এ নিরাপত্তা পূরণ করতে হবে।

যৌথ গার্ডরেইল বা সুরক্ষাবলয় প্রতিষ্ঠিত না হওয়া পর্যন্ত কোম্পানিগুলোর নিজেদের উদ্যোগে এআই বিকাশ প্রক্রিয়া সাময়িকভাবে স্থগিত বা ‘স্বেচ্ছায় ধীরগতি’ রাখার ঘটনা সাধারণ বিষয়ে পরিণত হবে।

এর আগে, অগাস্টে ওপেনএআই বলেছিল, নিরাপত্তা ব্যবস্থার উন্নতির জন্য নিজেদের কিছু উন্নত এআই মডেলের প্রশিক্ষণ প্রক্রিয়া তারা ধীর করেছে।