AI-এর দৌড়ে মহাবিপদের আশঙ্কা?

সুপারইন্টেলিজেন্স ও ‘রিকার্সিভ সেলফ-ইমপ্রুভমেন্ট’ নিয়ে সতর্কবার্তা, গবেষকের পদত্যাগে বিশ্বজুড়ে নতুন বিতর্ক

বিশেষ প্রতিবেদন | দৈনিক বাংলাদেশ প্রথম সংবাদ

কৃত্রিম বুদ্ধিমত্তা বা AI প্রযুক্তি মানুষের জীবনকে দ্রুত বদলে দিচ্ছে। চিকিৎসা, বিজ্ঞান, শিক্ষা, সফটওয়্যার উন্নয়ন থেকে শুরু করে দৈনন্দিন কাজ—প্রায় প্রতিটি ক্ষেত্রেই AI-এর সক্ষমতা ক্রমেই বাড়ছে। কিন্তু এই অগ্রগতির সঙ্গে পাল্লা দিয়ে বাড়ছে আরেকটি প্রশ্ন—মানুষ কি এমন এক প্রযুক্তি তৈরি করছে, যার ক্ষমতা একসময় মানুষের নিয়ন্ত্রণের সীমা অতিক্রম করতে পারে?

সাম্প্রতিক সময়ে এই প্রশ্নটি নতুন করে সামনে এসেছে যুক্তরাষ্ট্রভিত্তিক AI গবেষণা প্রতিষ্ঠান Anthropic-এর গবেষক জ্যাকব কক্সনের পদত্যাগের পর। ২৭ বছর বয়সী কক্সন জানিয়েছেন, তিনি প্রায় তিন বছর OpenAI ও Anthropic—দুই প্রতিষ্ঠানে AI মডেলের প্রি-ট্রেনিং নিয়ে কাজ করেছেন। পদত্যাগের ঘোষণা দিতে গিয়ে তিনি অভিযোগ করেন, বিশ্বের শীর্ষ AI প্রতিষ্ঠানগুলো নিরাপত্তার চেয়ে প্রতিযোগিতামূলকভাবে আরও শক্তিশালী AI তৈরির দৌড়কে বেশি গুরুত্ব দিচ্ছে।

কক্সনের বক্তব্যের সবচেয়ে আলোচিত অংশ হলো ‘Self-Improving Superintelligence’ বা এমন ধরনের কৃত্রিম বুদ্ধিমত্তার সম্ভাবনা, যা ভবিষ্যতে নিজের সক্ষমতা আরও উন্নত করতে সক্ষম হতে পারে। তাঁর আশঙ্কা, এ ধরনের প্রযুক্তি যথেষ্ট নিরাপত্তা কাঠামো ছাড়া তৈরি হলে তা মানবজাতির জন্য এমন ঝুঁকি তৈরি করতে পারে, যার পরিণতি নিয়ন্ত্রণ করা কঠিন হয়ে পড়বে।

তিনি দাবি করেছেন, AI তৈরির প্রতিযোগিতায় থাকা প্রতিষ্ঠানগুলো এমন এক পর্যায়ের দিকে এগিয়ে যাচ্ছে যেখানে ভবিষ্যতের সিস্টেমগুলো মানুষের চেয়ে অনেক বেশি সক্ষম হয়ে উঠতে পারে। কক্সনের মতে, এই পরিস্থিতিতে শুধু একটি প্রতিষ্ঠানের ভালো উদ্দেশ্য যথেষ্ট নয়; পুরো শিল্পখাতের জন্য সমন্বিত নিরাপত্তা কাঠামো প্রয়োজন।

সবচেয়ে আলোচিত সতর্কবার্তা

কক্সনের বক্তব্যের পর আলোচনায় আসে Anthropic-এর Alignment Science Lead ইভান হুবিঙ্গারের মন্তব্যও। তিনি প্রকাশ্যে কক্সনের উদ্বেগের সঙ্গে একমত হয়ে বলেন, তাঁর ব্যক্তিগত হিসাব অনুযায়ী আগামী এক দশকের মধ্যে AI-এর কারণে মানবজাতির সম্পূর্ণ ধ্বংসের সম্ভাবনা ১০ শতাংশের বেশি হতে পারে।

তবে এটি কোনো বৈজ্ঞানিকভাবে প্রতিষ্ঠিত পূর্বাভাস বা নিশ্চিত ভবিষ্যদ্বাণী নয়। এটি একজন AI safety গবেষকের ব্যক্তিগত ঝুঁকি-অনুমান। ফলে সংখ্যাটিকে সম্ভাব্য ঝুঁকি নিয়ে চলমান বিতর্কের অংশ হিসেবেই দেখা উচিত।

হুবিঙ্গার একই সঙ্গে স্বীকার করেছেন যে Anthropic নিরাপত্তা নিশ্চিত করার চেষ্টা করছে, কিন্তু সুপারইন্টেলিজেন্সের ক্ষেত্রে AI-এর লক্ষ্য ও আচরণকে পুরোপুরি মানুষের নিয়ন্ত্রণে রাখার সমস্যার সমাধান এখনো নিশ্চিত হয়নি। এই স্বীকারোক্তিই মূলত AI safety নিয়ে বিতর্ককে আরও তীব্র করেছে।

‘Recursive Self-Improvement’ কেন এত গুরুত্বপূর্ণ?

AI safety গবেষণায় বর্তমানে যে বিষয়গুলো সবচেয়ে বেশি আলোচিত, তার মধ্যে একটি হলো ‘Recursive Self-Improvement’ বা পুনরাবৃত্ত স্ব-উন্নয়ন।

সহজ ভাষায়, আজকের অধিকাংশ AI মডেলকে মানুষের তৈরি ডেটা, অ্যালগরিদম, কম্পিউটিং অবকাঠামো এবং প্রশিক্ষণ প্রক্রিয়ার মাধ্যমে উন্নত করা হয়। কিন্তু ভবিষ্যতে যদি কোনো AI সিস্টেম নিজেই তার সফটওয়্যার, গবেষণা পদ্ধতি বা পরবর্তী প্রজন্মের মডেল উন্নয়নে উল্লেখযোগ্য ভূমিকা রাখতে পারে, তাহলে উন্নয়নের গতি বর্তমানের তুলনায় অনেক বেড়ে যেতে পারে।

এখানেই safety researchers-এর উদ্বেগ।

কারণ একটি অত্যন্ত সক্ষম AI যদি নিজস্ব সক্ষমতা বাড়ানোর পাশাপাশি সাইবার নিরাপত্তা, স্বয়ংক্রিয় গবেষণা, কোডিং কিংবা গুরুত্বপূর্ণ ডিজিটাল অবকাঠামোর সঙ্গে স্বাধীনভাবে কাজ করার ক্ষমতা অর্জন করে, তাহলে তাকে নিয়ন্ত্রণ করার জন্য মানুষের হাতে পর্যাপ্ত ব্যবস্থা থাকবে কি না—সেই প্রশ্নের উত্তর এখনো নিশ্চিত নয়।

তবে গুরুত্বপূর্ণ বিষয় হলো, এমন পরিস্থিতি এখনো পুরোপুরি বাস্তবায়িত হয়েছে—এমন দাবি করা যাবে না। এটি ভবিষ্যৎ AI সক্ষমতা নিয়ে গবেষক ও বিশেষজ্ঞদের একটি সম্ভাব্য ঝুঁকি-চিত্র।

AI কি সত্যিই মানুষের জন্য ‘মহাবিপদ’ হতে পারে?

এই প্রশ্নের উত্তর নিয়ে বিজ্ঞানী ও প্রযুক্তিবিদদের মধ্যেও মতভেদ রয়েছে।

একদল গবেষক মনে করেন, অত্যন্ত শক্তিশালী AI যদি মানুষের উদ্দেশ্যের সঙ্গে সামঞ্জস্যপূর্ণ না থাকে এবং পর্যাপ্ত নিয়ন্ত্রণ ছাড়া বাস্তব জগতে সিদ্ধান্ত নেওয়ার ক্ষমতা পায়, তাহলে এর ঝুঁকি অত্যন্ত গুরুতর হতে পারে।

অন্যদিকে অনেকে মনে করেন, AI নিয়ে অতিরিক্ত কল্পনাভিত্তিক ভয় তৈরি না করে বাস্তব ও বর্তমান ঝুঁকিগুলোর ওপর বেশি গুরুত্ব দেওয়া প্রয়োজন। ভুল তথ্য ছড়ানো, সাইবার আক্রমণ, ব্যক্তিগত তথ্যের অপব্যবহার, পক্ষপাতমূলক সিদ্ধান্ত, চাকরির বাজারে পরিবর্তন এবং স্বয়ংক্রিয় ব্যবস্থার অপব্যবহার—এসব ঝুঁকি ইতোমধ্যেই বাস্তব।

অর্থাৎ AI নিয়ে বিতর্কটি শুধু ভবিষ্যতে মানবজাতি টিকে থাকবে কি না—এই প্রশ্নে সীমাবদ্ধ নয়। বর্তমানেই কীভাবে AI-কে নিরাপদ, স্বচ্ছ ও জবাবদিহিমূলকভাবে ব্যবহার করা যায়, সেটিও সমান গুরুত্বপূর্ণ।

কেন গবেষকদের উদ্বেগ বাড়ছে?

কক্সনের পদত্যাগের সময়টি বিশেষভাবে তাৎপর্যপূর্ণ। কারণ সাম্প্রতিক সময়ে AI agent বা স্বয়ংক্রিয় AI সিস্টেমের সক্ষমতা নিয়ে বিভিন্ন ঘটনা প্রযুক্তি খাতে নিরাপত্তা নিয়ে নতুন প্রশ্ন তৈরি করেছে।

বিশেষজ্ঞদের একটি অংশের উদ্বেগ হলো, AI যত বেশি স্বয়ংক্রিয় হবে, তত বেশি গুরুত্বপূর্ণ হবে তার আচরণ পূর্বানুমান ও নিয়ন্ত্রণ করার সক্ষমতা। শুধু পরীক্ষাগারে একটি মডেল কত ভালো উত্তর দিতে পারে—এটি দিয়ে ভবিষ্যৎ AI ঝুঁকি মূল্যায়ন করা যথেষ্ট নাও হতে পারে।

একই সঙ্গে AI প্রতিষ্ঠানগুলোর মধ্যে তীব্র প্রতিযোগিতা থাকায় নিরাপত্তার চেয়ে দ্রুত নতুন সক্ষমতা বাজারে আনার চাপ তৈরি হতে পারে—এমন আশঙ্কাও রয়েছে। কক্সনের মূল অভিযোগের একটি বড় অংশ এই প্রতিযোগিতামূলক চাপকে ঘিরেই।

তাহলে কি AI উন্নয়ন বন্ধ করে দেওয়া উচিত?

কক্সন ও AI safety নিয়ে উদ্বিগ্ন অনেক গবেষকের বক্তব্যকে সরলভাবে ‘AI বন্ধ করে দিতে হবে’ হিসেবে ব্যাখ্যা করা ঠিক হবে না।

বরং আলোচনার কেন্দ্রবিন্দু হলো—AI উন্নয়ন কত দ্রুত হবে, কোন পর্যায়ে কী ধরনের নিরাপত্তা পরীক্ষা বাধ্যতামূলক হবে এবং অত্যন্ত শক্তিশালী মডেল তৈরি হলে সেগুলোর ওপর কী ধরনের সরকারি ও আন্তর্জাতিক নজরদারি থাকবে।

Anthropic-এর পক্ষ থেকেও বলা হয়েছে, AI থেকে বিপুল সম্ভাব্য সুবিধার পাশাপাশি নজিরবিহীন ঝুঁকি রয়েছে এবং শক্তিশালী AI মডেল প্রকাশের গতি নিয়ন্ত্রণে শিল্পখাতের মধ্যে আইনসম্মত ও যাচাইযোগ্য সহযোগিতার প্রয়োজন রয়েছে।

অর্থাৎ ভবিষ্যতের লড়াই হয়তো AI বনাম মানুষ নয়; বরং প্রশ্নটি হতে পারে—মানুষ কি নিজেদের তৈরি প্রযুক্তির বিকাশকে যথেষ্ট দায়িত্বশীলভাবে পরিচালনা করতে পারবে?

সামনে কোন পথ?

বিশেষজ্ঞদের আলোচনায় কয়েকটি বিষয় ক্রমেই গুরুত্বপূর্ণ হয়ে উঠছে—AI safety research বাড়ানো, শক্তিশালী মডেলের আগে কঠোর নিরাপত্তা পরীক্ষা, স্বাধীন অডিট, স্বচ্ছতা, আন্তর্জাতিক সহযোগিতা এবং প্রয়োজন হলে উন্নয়নের গতি নিয়ন্ত্রণের জন্য আইনগত কাঠামো।

কারণ AI এমন একটি প্রযুক্তি, যার সম্ভাব্য সুফলও বিশাল।

ক্যান্সার গবেষণা, ওষুধ আবিষ্কার, জলবায়ু গবেষণা, বৈজ্ঞানিক বিশ্লেষণ, শিক্ষা এবং উৎপাদনশীলতার ক্ষেত্রে AI বড় ধরনের পরিবর্তন আনতে পারে। একই প্রযুক্তি যদি অনিয়ন্ত্রিতভাবে ব্যবহৃত হয়, তাহলে সাইবার নিরাপত্তা থেকে শুরু করে গুরুত্বপূর্ণ অবকাঠামো পর্যন্ত বিভিন্ন ক্ষেত্রে ঝুঁকি তৈরি করতে পারে।

তাই মূল প্রশ্ন AI থাকবে কি থাকবে না—তা নয়।

মূল প্রশ্ন হলো, AI যত শক্তিশালী হবে, তার সঙ্গে মানুষের নিরাপত্তা, জবাবদিহি ও নিয়ন্ত্রণের ব্যবস্থাও কি একই গতিতে শক্তিশালী হবে?

জ্যাকব কক্সনের পদত্যাগ সেই প্রশ্নটিই নতুন করে সামনে এনেছে।

বিশ্ব এখন এমন এক প্রযুক্তিগত সন্ধিক্ষণে দাঁড়িয়ে আছে, যেখানে AI মানবসভ্যতার জন্য যুগান্তকারী সুযোগ তৈরি করতে পারে। একই সঙ্গে এর সম্ভাব্য ঝুঁকি উপেক্ষা করলে ভবিষ্যতে বড় ধরনের সমস্যার মুখোমুখি হওয়ার আশঙ্কাও উড়িয়ে দেওয়া যায় না।

তাই প্রযুক্তির অগ্রগতি থামানো নয়, বরং সেই অগ্রগতিকে কতটা নিরাপদ, দায়িত্বশীল ও মানবকল্যাণমুখী রাখা যায়—সম্ভবত এখন সবচেয়ে গুরুত্বপূর্ণ প্রশ্ন সেটিই।