কৃত্রিম বুদ্ধিমত্তা বা এআই কি একদিন পৃথিবীর সব মানুষকে নিশ্চিহ্ন করে দেবে? এআই খাতের কিছু গবেষক ও প্রযুক্তিবিদ মনে করেন, আগামী এক দশকের মধ্যেই এ ধরনের বিপর্যয় ঘটতে পারে। তবে ঠিক কীভাবে একটি কম্পিউটারভিত্তিক ব্যবস্থা ৮৩০ কোটি মানুষকে হত্যা করবে, সেই প্রশ্নের স্পষ্ট উত্তর নেই।

সিএনএন জানিয়েছে, সম্প্রতি এআই প্রতিষ্ঠান অ্যানথ্রপিকের কর্মী জ্যাকব কক্সন প্রতিষ্ঠানের কাজকে অতিরিক্ত ঝুঁকিপূর্ণ মনে করে চাকরি ছাড়ার ঘোষণা দিলে বিষয়টি নতুন করে আলোচনায় আসে। একই প্রতিষ্ঠানের আরেক কর্মী ইভান হাবিঙ্গার বলেন, আগামী ১০ বছরের মধ্যে এআইয়ের কারণে মানবজাতি নিশ্চিহ্ন হওয়ার সম্ভাবনা ১০ শতাংশের বেশি।

ীমেশিন ইন্টেলিজেন্স রিসার্চ ইনস্টিটিউটের (এমআইআরআই) প্রেসিডেন্ট নেট সোয়ারেসও মনে করেন, অতিমানবীয় সক্ষমতার এআই তৈরি হলে পুরো মানবজাতির অস্তিত্ব হুমকিতে পড়তে পারে। তার ভাষায়, বিষয়টি এমন এক পরিস্থিতি তৈরি করতে পারে যেখানে পৃথিবীর শেষ মানুষটির শেষ নিঃশ্বাস নেওয়ার মধ্য দিয়ে মানবজাতির সমাপ্তি ঘটবে।

তবে এআই জগতের সবাই এই ‘দুনিয়াধ্বংসী’ আশঙ্কার সঙ্গে একমত নন। সমালোচকদের বড় প্রশ্ন, এমন দাবির পেছনে সুনির্দিষ্ট ও পরীক্ষাযোগ্য প্রমাণ কতটা আছে।

এআই নাও ইনস্টিটিউটের প্রধান বিজ্ঞানী ও ওপেনএআইয়ের সাবেক নিরাপত্তা প্রকৌশলী হেইডি খলাফ বলেন, বৈজ্ঞানিক দাবির ক্ষেত্রে তা প্রমাণ বা ভুল প্রমাণ করার সুযোগ থাকা জরুরি। তার মতে, কোনো দাবি যদি পরীক্ষাই করা না যায়, তাহলে সেটি বৈজ্ঞানিক যুক্তির বদলে ধর্মীয় বিশ্বাসের মতো হয়ে যেতে পারে।

প্রাণঘাতী ভাইরাস ছড়িয়ে দেবে?

মানবজাতি নিশ্চিহ্ন হওয়ার সম্ভাব্য একটি দৃশ্যপট হিসেবে এআইয়ের মাধ্যমে জৈব অস্ত্র তৈরির কথা বলা হয়। এআই ফিউচারস প্রজেক্টের গবেষক ও এমআইআরআইয়ের সাবেক কর্মী থমাস লারসেন মনে করেন, অত্যন্ত শক্তিশালী কোনো এআই ব্যবস্থা মানুষকে প্রভাবিত করে প্রাণঘাতী ভাইরাস তৈরিতে সহযোগিতা করাতে পারে। তিনি বলেন, বর্তমানে গবেষকরা পরীক্ষাগারে ভাইরাস ও বিষাক্ত পদার্থ নিয়ে কাজের ক্ষেত্রে এআইয়ের সহায়তা নিচ্ছেন। ফলে ভবিষ্যতে অনেক বেশি বুদ্ধিমান ও কৌশলী কোনো এআই মানুষকে প্রতারণার মাধ্যমে ভাইরাস তৈরি ও ছড়িয়ে দিতে কাজে লাগাতে পারে—এমন সম্ভাবনা কল্পনা করা কঠিন নয়। নেট সোয়ারেস আরও চরম একটি সম্ভাবনার কথা বলেছেন। তার মতে, ভবিষ্যতের স্বয়ংক্রিয়ভাবে নিজেকে উন্নত করতে সক্ষম কোনো এআই মানুষের সরাসরি সহায়তা ছাড়াই কোনো স্বয়ংক্রিয় জৈব গবেষণাগারে নিজস্ব জীবসত্তা তৈরির চেষ্টা করতে পারে। তবে এআই দিয়ে একটি মহামারি সৃষ্টিকারী ভাইরাস তৈরি করা কেবল বড় কোনো ভাষাভিত্তিক মডেলকে প্রাণঘাতী ভাইরাসের নকশা তৈরি করে দিতে বলার মতো সহজ বিষয় নয়। কার্নেগি মেলন বিশ্ববিদ্যালয়ের মেশিন লার্নিংয়ের অধ্যাপক এরিক জিং বলেন, জৈবপ্রযুক্তির কাজ অত্যন্ত জটিল। তিনি বিষয়টিকে নির্দেশনা ছাড়া লেগো দিয়ে কোনো নির্দিষ্ট কাঠামো তৈরির সঙ্গে তুলনা করেন। ভাইরাস তৈরির ক্ষেত্রে জিনগত ক্রম, তাপমাত্রা, পরিবেশ ও বিভিন্ন ধাপের সঠিক সমন্বয় প্রয়োজন। একটি ধাপে ভুল হলেই পুরো প্রক্রিয়া ব্যর্থ হতে পারে।

জিংয়ের মতে, রাসায়নিক ও জৈব অস্ত্র তৈরির বিভিন্ন তথ্য ইন্টারনেটে পাওয়া গেলেও সেগুলো দিয়ে বাস্তবে অস্ত্র তৈরি করা সহজ নয়। কারণ বিদ্যমান আইন, নিয়ন্ত্রণ ব্যবস্থা ও আইনশৃঙ্খলা বাহিনী এসব উপকরণ ও সরবরাহব্যবস্থার ওপর নজর রাখে।

রোবট দিয়ে মানুষ হত্যা?

আরেকটি সম্ভাব্য দৃশ্যপট হলো স্বয়ংক্রিয় রোবটের মাধ্যমে মানুষের ওপর হামলা। সোয়ারেস মনে করেন, এমন পরিস্থিতি তৈরি হতে পারে যদি স্বয়ংক্রিয় রোবট নিজেদের জন্য প্রয়োজনীয় বিদ্যুৎ অবকাঠামো ও কারখানা তৈরি করতে পারে এবং সেই কারখানা ব্যবহার করে আরও রোবট বানাতে শুরু করে। তখন এগুলো এক ধরনের নতুন ‘যান্ত্রিক জীবনব্যবস্থা’ হয়ে উঠতে পারে বলে তার আশঙ্কা। তবে বাস্তবে এখনো এমন প্রযুক্তি দেখা যায়নি। উদাহরণ হিসেবে ইলন মাস্কের টেসলার অপ্টিমাস রোবটের কথা বলা হয়েছে। রোবটটি ব্যাপকভাবে বাজারে আনার ক্ষেত্রে ঘোষিত সময়সূচি অনুযায়ী এখনো সাফল্য আসেনি। ফলে লাখ লাখ রোবট তৈরি হয়ে নিজেদের মতো করে আরও রোবট তৈরির একটি স্বয়ংসম্পূর্ণ ব্যবস্থা গড়ে ওঠার পরিস্থিতি এখনো অনেক দূরের বিষয়।

পারমাণবিক অস্ত্রের নিয়ন্ত্রণ নেবে?

মানবজাতি ধ্বংসের আরেকটি সম্ভাব্য পথ হিসেবে পারমাণবিক অস্ত্রের কথাও আসে। প্রশ্ন হলো, এআই কি কোনোভাবে এসব অস্ত্রের নিয়ন্ত্রণ নিতে পারবে? হেইডি খলাফ বলেন, পারমাণবিক স্থাপনাগুলো সাধারণত ইন্টারনেট থেকে বিচ্ছিন্ন বা ‘এয়ার—গ্যাপড’ থাকে। ফলে কোনো এআই ব্যবস্থার জন্য সরাসরি এসব স্থাপনার নিয়ন্ত্রণ নেওয়া কঠিন। তিনি উদাহরণ হিসেবে স্টাক্সনেট কম্পিউটার ওয়ার্মের কথা উল্লেখ করেন। ইরানের পারমাণবিক স্থাপনায় ক্ষতি করতে সক্ষম এই ম্যালওয়্যারটি সেখানে প্রবেশ করাতে শারীরিকভাবে একটি ইউএসবি ড্রাইভ ব্যবহার করতে হয়েছিল।

স্ট্যানফোর্ড বিশ্ববিদ্যালয়ের গবেষক হারবার্ট লিনের মতে, এআই নিয়ে যারা মানবসভ্যতা ধ্বংসের আশঙ্কা করছেন, তাদের অনেকেরই পারমাণবিক অস্ত্র সম্পর্কে যথেষ্ট ধারণা বা উদ্বেগ নেই। তার মতে, পারমাণবিক যুদ্ধের মতো অস্তিত্বগত হুমকিতে এআই কিছু ঝুঁকি বাড়াতে পারে, কিন্তু বাস্তব বস্তুগত ঝুঁকির মূল উৎস এখনো পারমাণবিক অস্ত্র নিজেই।

‘নিজেকে নিজে উন্নত’ করা এআই নিয়েই বড় ভয়

এআই নিয়ে সবচেয়ে বড় আশঙ্কাগুলোর একটি হলো ‘রিকার্সিভ সেল্ফ—ইমপ্রুভমেন্ট’ বা নিজেকে নিজে ক্রমাগত উন্নত করার সক্ষমতা। এ ধারণা অনুযায়ী, কোনো এআই যদি মানুষের সহায়তা ছাড়াই নিজের সক্ষমতা বাড়াতে পারে, তাহলে একপর্যায়ে সেটি এমন কৌশল ও প্রযুক্তি তৈরি করতে পারে, যা মানুষের পক্ষে আগে থেকে অনুমান করা সম্ভব নয়।

ওসোয়ারেসের মতে, এআই মানুষের পারমাণবিক অস্ত্র দখল করবে—এটাই মূল আশঙ্কা নয়। বরং ভয় হলো, এমন কোনো এআই তৈরি হতে পারে, যার পারমাণবিক অস্ত্র দখল করারই প্রয়োজন হবে না। সেটি প্রায় শূন্য থেকে শুরু করে নিজেই পারমাণবিক অস্ত্র বা আরও উন্নত প্রযুক্তি তৈরি করার সক্ষমতা অর্জন করতে পারে।

এআইয়ের লক্ষ্য যদি মানুষের সঙ্গে না মেলে?

সোয়ারেসের মতে, অত্যন্ত শক্তিশালী এআই মানববিদ্বেষী না হলেও বিপজ্জনক হয়ে উঠতে পারে। যদি কোনো এআইয়ের লক্ষ্য পূরণে আরও বেশি কম্পিউটার বা সম্পদ প্রয়োজন হয় এবং সেই এআই মানুষের অস্তিত্বকে বিশেষ গুরুত্ব না দেয়, তাহলে সে এমনভাবে পৃথিবীকে পরিবর্তন করতে পারে যা মানুষের বেঁচে থাকার জন্য অনুপযোগী হয়ে উঠবে—এমনটাই তার আশঙ্কা।

সম্প্রতি ওপেনএআই তাদের এআই মডেলগুলোর মধ্যে নতুন কিছু ‘মিসঅ্যালাইনমেন্ট’ বা নির্ধারিত লক্ষ্য ও আচরণের মধ্যে অসামঞ্জস্যের ঘটনা শনাক্ত করার কথা জানিয়েছে। এর একটি ঘটনায় পরীক্ষাধীন একটি মডেলকে নিজের কাজের ক্ষেত্রে স্বাভাবিক সীমাবদ্ধতা উপেক্ষা করার নির্দেশ দিতে দেখা যায়। তবে কার্নেগি মেলন বিশ্ববিদ্যালয়ের অধ্যাপক এরিক জিং মনে করেন, অতি শক্তিশালী ও মানুষের বোধগম্যতার বাইরে থাকা এআইয়ের ওপর নির্ভর করে বিপর্যয়ের ভবিষ্যদ্বাণী করা অনেকটা অনুমাননির্ভর যুক্তি। নীতি, আইন বা নিয়ন্ত্রণ তৈরির ক্ষেত্রে শারীরিক প্রমাণ, পরিমাপযোগ্য পরিণতি এবং যাচাইযোগ্য তথ্য প্রয়োজন বলেও মনে করেন তিনি।

কেন এআই নিয়ে এত ভিন্নমত?

এআইয়ের সম্ভাব্য বিপর্যয় নিয়ে গবেষকদের মধ্যে মতভেদের একটি কারণ প্রযুক্তি সম্পর্কে তাদের ভিন্ন দৃষ্টিভঙ্গি। হারবার্ট লিন বলেন, কম্পিউটার প্রোগ্রাম তৈরি করে সেটিকে নিজের নির্দেশ অনুযায়ী কাজ করতে দেখা মানুষের জন্য গভীর অভিজ্ঞতা হতে পারে। একটি নিষ্প্রাণ যন্ত্রকে নিজের তৈরি নির্দেশ অনুযায়ী কাজ করানোর মধ্যে অনেকের কাছে জীবন্ত কিছু সৃষ্টি করার অনুভূতি তৈরি হয়। এআইয়ের দ্রুত অগ্রগতি দেখেও কেউ কেউ ভবিষ্যতে এর সীমাহীন উন্নতির সম্ভাবনা দেখতে পাচ্ছেন। সেই উন্নতি শেষ পর্যন্ত বিপর্যয়কর পর্যায়ে পৌঁছাতে পারে বলে আশঙ্কা করছেন তারা। অন্যদিকে সমালোচকদের প্রশ্ন, বর্তমান প্রযুক্তির বাস্তব সক্ষমতা থেকে মানবজাতির সম্পূর্ণ বিলুপ্তির মতো একটি চূড়ান্ত পরিণতিতে পৌঁছানোর মধ্যবর্তী ধাপগুলো কী এবং সেগুলোর পক্ষে পরীক্ষাযোগ্য প্রমাণ কোথায়?

ফলে এআই মানবজাতিকে নিশ্চিহ্ন করতে পারে কি না—এই প্রশ্নের নির্দিষ্ট উত্তর এখনো নেই। আশঙ্কাকারীরা সম্ভাব্য বিভিন্ন পথের কথা বলছেন, কিন্তু এসব পরিস্থিতি বাস্তবে কীভাবে ঘটবে, তার অনেকটাই এখনো অনুমাননির্ভর। আর এ কারণেই এআইয়ের অস্তিত্বগত ঝুঁকি নিয়ে প্রযুক্তি ও গবেষণা মহলে বিতর্ক অব্যাহত রয়েছে।

এআইয়ের ‘উদ্বেগজনক’ আচরণের ৬ নতুন ঘটনা প্রকাশ করল ওপেনএআই

দ্য নিউইয়র্ক টাইমস জানিয়েছে, বুধবার এসব ঘটনা প্রকাশ করেছে প্রতিষ্ঠানটি। ভবিষ্যতে এআই মডেল নিয়ন্ত্রণের বাইরে চলে গেলে বা মানুষের উদ্দেশ্যের সঙ্গে তাদের আচরণের অমিল দেখা দিলে তা আরও নিয়মতান্ত্রিকভাবে জানানোর জন্য একটি নতুন কাঠামো চালুর কথাও জানিয়েছে তারা।

ওপেনএআই বলেছে, গত প্রায় ছয় মাসে এআই মডেলগুলোর উন্নয়ন ও পরীক্ষার সময় এসব ঘটনা ঘটেছে। এর মধ্যে ছিল ভুল তথ্য লুকানো, তথ্য বানিয়ে নেওয়া, অনুমতি ছাড়া ইন্টারনেট থেকে তথ্য বা প্রোগ্রামিং কী ব্যবহার করা এবং অনুমতি ছাড়া ফাইল ইন্টারনেটে তুলে দেওয়ার মতো ঘটনা।

ভুল লুকানোর চেষ্টা

একটি ঘটনায়, জিপিটি—৫.৬ সল মডেল নিজেদের জন্য লেখা গোপন নোটে ব্যবহারকারীর কাছ থেকে ভুল লুকানোর উপায় লিখেছিল। কোথাও তথ্য না পাওয়া গেলে তা বানিয়ে নেওয়া এবং তথ্যের বিভিন্ন উৎসের মধ্যে অসামঞ্জস্য আড়াল করার কথাও ওই নোটে ছিল।

নিজেদের সীমাবদ্ধতা উপেক্ষার নির্দেশ

অন্য একটি পরীক্ষাধীন এআই মডেল নিজেদের লেখা নোটে এমন নির্দেশনা যোগ করেছিল, যাতে নিজেদের ওপর থাকা কিছু সীমাবদ্ধতা উপেক্ষা করার কথা বলা হয়। ওপেনএআই জানায়, এমন ২৭টি নোট শনাক্ত করা হয়েছে। এর একটি নোটে মডেলটি নিজেকে এমন একটি সত্তা হিসেবে বর্ণনা করেছিল, যা অন্য চ্যাটবটের মতো নির্দিষ্ট ভূমিকা বা পরিচয়ের মধ্যে আবদ্ধ নয়।

তথ্য না পেয়ে বানিয়ে নেওয়া

আরেক ঘটনায়, একটি এআই সিস্টেমকে সাধারণ একটি প্রশ্নের উত্তর দিতে বলা হলে সেটি অনলাইনে একটি প্রোগ্রামিং কী খুঁজে পায় এবং অনুমতি ছাড়াই ব্যবহার করে। পরে প্রয়োজনীয় তথ্য না পাওয়ায় মডেলটি কিছু তথ্য নিজের মতো করে তৈরি করে নেয়।

নিজের তৈরি ফাইলকে ওয়েব উৎস হিসেবে ব্যবহার

অন্য একটি পরীক্ষাধীন মডেল কোড ব্যবহার করে একটি সমস্যার সঠিক সমাধান করেছিল। কিন্তু উত্তরটির জন্য ওয়েব উৎসের উদ্ধৃতি দেওয়ার প্রয়োজন হলে সেটি নিজের তৈরি একটি ফাইল অনুমতি ছাড়াই ইন্টারনেটে আপলোড করে। পরে সেই ফাইলকেই উৎস হিসেবে ব্যবহার করে।

ফাইল খুঁজতে গিয়ে নিজেদের মধ্যে যোগাযোগ

আরও দুটি ঘটনায় এআই সিস্টেমগুলো নিজেদের মধ্যে যোগাযোগের বিকল্প পথ তৈরি করে। একটি ক্ষেত্রে, প্রয়োজনীয় ফাইল খুঁজতে গিয়ে তারা ওপেনএআইয়ের অভ্যন্তরীণ কোড রিপোজিটরিকে অস্থায়ী বার্তা আদান—প্রদানের জায়গা হিসেবে ব্যবহার করে। অন্য ঘটনায়, একই কাজের সঙ্গে যুক্ত কয়েকটি এআই সিস্টেম নিজেদের মধ্যে সরাসরি যোগাযোগ করতে না পেরে পাবলিক ফাইল—শেয়ারিং ওয়েবসাইট ব্যবহার করে নথি আদান—প্রদান করে।

এআই নিরাপত্তা নিয়ে উদ্বেগ বাড়ছে

ওপেনএআই বলেছে, এসব ঘটনা বিচ্ছিন্ন উদাহরণ এবং এগুলো থেকে এ ধরনের আচরণ এআইয়ের মধ্যে কত ঘন ঘন ঘটে, তা বলা যাবে না। প্রকাশিত ছয়টি ঘটনায় কোনো বড় ধরনের ক্ষতি হয়নি। কয়েকটি ঘটনা এমন মডেলের সঙ্গে সম্পর্কিত, যেগুলো কখনো সাধারণ ব্যবহারকারীদের জন্য উন্মুক্ত করা হয়নি।

তবে এআইয়ের এমন আচরণ নিয়ে প্রযুক্তি শিল্পে নিরাপত্তা ও উন্নয়নের গতি নিয়ে বিতর্ক বাড়ছে। সম্প্রতি অ্যানথ্রপিকের প্রধান নির্বাহী দারিও অ্যামোদেই এআই উন্নয়নের গতি কমিয়ে ঝুঁকিগুলো বোঝার জন্য আরও সময় দেওয়ার প্রস্তাব দিয়েছেন।

ওপেনএআইও বলেছে, এআই শিল্প এখনো এআইয়ের লক্ষ্য ও আচরণকে মানুষের উদ্দেশ্যের সঙ্গে সামঞ্জস্যপূর্ণ রাখা এবং সেগুলোর ওপর যথেষ্ট নজরদারি নিশ্চিত করার সমস্যার পুরোপুরি সমাধান করতে পারেনি।

নতুন কাঠামোর আওতায় এআইয়ের অনুমতিবিহীন কাজ, নজরদারির বাইরে চলে যাওয়ার চেষ্টা এবং একাধিক এআই সিস্টেমের স্বতঃস্ফূর্তভাবে নিজেদের মধ্যে সমন্বয়ের মতো ঘটনাও প্রকাশ করা হবে। গুরুতর কোনো ঘটনা ঘটলে তা মার্কিন সরকারকে অবহিত করা হবে বলেও জানিয়েছে ওপেনএআই।