উন্নত কৃত্রিম বুদ্ধিমত্তা (এআই) প্রযুক্তির সম্ভাব্য ঝুঁকি নিয়ে উদ্বেগের মধ্যে গুগল ডিপমাইন্ডের এক শীর্ষ নিরাপত্তা গবেষক প্রতিষ্ঠানটি ছেড়ে দিয়েছেন। জশ এঙ্গেলস নামের ওই গবেষক এখন স্বতন্ত্র এআই মূল্যায়ন সংস্থা ‘মেটর’-এ যোগ দিয়েছেন।
গুগল ডিপমাইন্ডের এজিআই সেফটি টিমে কাজ করা এঙ্গেলস জানিয়েছেন, উন্নত এআই সিস্টেমের সম্ভাব্য ক্ষতির ঝুঁকি দ্রুত বাড়ছে বলেই তিনি নতুন দায়িত্ব নিয়েছেন।
সামাজিক যোগাযোগমাধ্যম এক্সে দেওয়া এক পোস্টে এঙ্গেলস জানান, প্রায় তিন সপ্তাহ আগে তিনি ডিপমাইন্ড ছেড়েছেন। প্রতিষ্ঠানটিতে কাজের অভিজ্ঞতাকে চমৎকার উল্লেখ করে তিনি বলেন, অ্যানথ্রোপিক ও ওপেনএআইয়ের মতো প্রতিষ্ঠানের আকর্ষণীয় সুযোগ থাকা সত্ত্বেও তিনি অন্য পথে যাওয়ার সিদ্ধান্ত নিয়েছেন।
এঙ্গেলসের মতে, আগামী পাঁচ বছরে এআই সিস্টেমের মাধ্যমে ব্যাপক ক্ষতি হওয়ার একটি গুরুতর সম্ভাবনা রয়েছে। নির্দিষ্ট সম্ভাবনার হার নিশ্চিত না হলেও তিনি মনে করেন, এআই নিরাপত্তা এখন বিশ্বের সবচেয়ে গুরুত্বপূর্ণ সমস্যাগুলোর একটি।
এঙ্গেলসের অন্যতম প্রধান উদ্বেগ হলো ‘পুনরাবৃত্তিমূলক আত্ম-উন্নয়ন’। এর মাধ্যমে একটি এআই সিস্টেম নিজেই আরও উন্নত এআই তৈরির সক্ষমতা অর্জন করতে পারে। পরবর্তী সিস্টেমটি আবার এআই উন্নয়নে আরও দক্ষ হয়ে উঠলে দ্রুতগতির একটি উন্নয়নচক্র তৈরি হতে পারে।
তার আশঙ্কা, এ ধরনের ব্যবস্থা মানুষের নির্ধারিত লক্ষ্য ও নিরাপত্তা নীতির সঙ্গে সামঞ্জস্যপূর্ণ না হলে বড় ধরনের ঝুঁকি তৈরি হতে পারে।
এঙ্গেলস বলেন, প্রযুক্তি প্রতিষ্ঠানগুলো অতি-বুদ্ধিমান বা ‘সুপারইন্টেলিজেন্স’ তৈরির প্রতিযোগিতায় রয়েছে। এসব সিস্টেম ভবিষ্যতে বিভিন্ন কাজে মানুষের তুলনায় অনেক বেশি সক্ষম হতে পারে। তবে এমন সিস্টেমকে আত্ম-উন্নয়নের সুযোগ দেওয়ার আগে কীভাবে নিশ্চিতভাবে নিরাপদ রাখা যাবে, সে বিষয়ে এখনো যথেষ্ট নিশ্চয়তা নেই।
এঙ্গেলস সাম্প্রতিক কিছু এআই-সংক্রান্ত ঘটনার দিকেও ইঙ্গিত করেছেন। তার দাবি, কিছু মডেল একে অপরের সঙ্গে সমন্বয় করা, সাইবার হামলা চালানো, নিজেদের কার্যক্রম গোপন রাখা এবং মানুষকে প্রভাবিত করার মতো আচরণ প্রদর্শন করেছে।
তার মতে, এসব ঘটনা বিচ্ছিন্ন হলেও ক্রমবিকাশমান এআই ব্যবস্থার অনাকাঙ্ক্ষিত আচরণের সম্ভাবনা নিয়ে সতর্ক হওয়ার কারণ রয়েছে।
এআই প্রযুক্তির উন্নয়ন পুরোপুরি বন্ধ করার পক্ষে নন এঙ্গেলস। বরং তার প্রস্তাব, নিরাপত্তা ব্যবস্থা শক্তিশালী না হওয়া পর্যন্ত উন্নয়নের গতি কিছুটা নিয়ন্ত্রণে রাখা উচিত।
তিনি মনে করেন, এআইয়ের সক্ষমতা বৃদ্ধির গতি যেন মানুষের নিরাপত্তা ও সামঞ্জস্য নিশ্চিত করার সক্ষমতাকে ছাড়িয়ে না যায়, সেটি নিশ্চিত করা প্রয়োজন।
নতুন প্রতিষ্ঠান ‘মেটর’-এ এঙ্গেলস এআই সিস্টেমের অসামঞ্জস্যের উৎস খোঁজা, নিরাপত্তা ব্যবস্থার কার্যকারিতা পরীক্ষা এবং এআই গবেষণার নিরাপত্তা যাচাইয়ের কাজে যুক্ত হবেন। একই সঙ্গে এআই কোম্পানিগুলোর ওপর স্বাধীন তদারকি ও জবাবদিহি বাড়ানোর পক্ষেও মত দিয়েছেন তিনি।
এর আগে অ্যানথ্রোপিক ও ওপেনএআইয়ের সাবেক গবেষক জ্যাকব কক্সনও এআইয়ের সম্ভাব্য ঝুঁকি নিয়ে সতর্ক করেছিলেন। তার দাবি ছিল, এআই নির্মাতারা স্ব-উন্নয়নশীল অতি-বুদ্ধিমান সিস্টেম তৈরির দিকে এগোচ্ছেন এবং এর সম্ভাব্য পরিণতি ভয়াবহ হতে পারে।
অ্যানথ্রোপিকের অ্যালাইনমেন্ট সায়েন্স লিড ইভান হুবিঙ্গারও কক্সনের আশঙ্কার সঙ্গে একমত হয়ে এআই ঝুঁকি নিয়ে গুরুতর সতর্কতা জানিয়েছেন। তিনি আগামী এক দশকের মধ্যে এআইয়ের কারণে মানবজাতির অস্তিত্বের জন্য বড় ধরনের ঝুঁকির সম্ভাবনা নিয়ে আশঙ্কা প্রকাশ করেছেন।
তবে এসবই সংশ্লিষ্ট গবেষকদের ঝুঁকি মূল্যায়ন ও মতামত; এআই আগামী পাঁচ বা দশ বছরের মধ্যে মানবজাতিকে ধ্বংস করবে এমন কোনো নিশ্চিত ভবিষ্যদ্বাণী নয়।
মঙ্গলবার, ১৫ সেপ্টেম্বর ২০২৬
প্রকাশের তারিখ : ১৫ সেপ্টেম্বর ২০২৬
উন্নত কৃত্রিম বুদ্ধিমত্তা (এআই) প্রযুক্তির সম্ভাব্য ঝুঁকি নিয়ে উদ্বেগের মধ্যে গুগল ডিপমাইন্ডের এক শীর্ষ নিরাপত্তা গবেষক প্রতিষ্ঠানটি ছেড়ে দিয়েছেন। জশ এঙ্গেলস নামের ওই গবেষক এখন স্বতন্ত্র এআই মূল্যায়ন সংস্থা ‘মেটর’-এ যোগ দিয়েছেন।
গুগল ডিপমাইন্ডের এজিআই সেফটি টিমে কাজ করা এঙ্গেলস জানিয়েছেন, উন্নত এআই সিস্টেমের সম্ভাব্য ক্ষতির ঝুঁকি দ্রুত বাড়ছে বলেই তিনি নতুন দায়িত্ব নিয়েছেন।
সামাজিক যোগাযোগমাধ্যম এক্সে দেওয়া এক পোস্টে এঙ্গেলস জানান, প্রায় তিন সপ্তাহ আগে তিনি ডিপমাইন্ড ছেড়েছেন। প্রতিষ্ঠানটিতে কাজের অভিজ্ঞতাকে চমৎকার উল্লেখ করে তিনি বলেন, অ্যানথ্রোপিক ও ওপেনএআইয়ের মতো প্রতিষ্ঠানের আকর্ষণীয় সুযোগ থাকা সত্ত্বেও তিনি অন্য পথে যাওয়ার সিদ্ধান্ত নিয়েছেন।
এঙ্গেলসের মতে, আগামী পাঁচ বছরে এআই সিস্টেমের মাধ্যমে ব্যাপক ক্ষতি হওয়ার একটি গুরুতর সম্ভাবনা রয়েছে। নির্দিষ্ট সম্ভাবনার হার নিশ্চিত না হলেও তিনি মনে করেন, এআই নিরাপত্তা এখন বিশ্বের সবচেয়ে গুরুত্বপূর্ণ সমস্যাগুলোর একটি।
এঙ্গেলসের অন্যতম প্রধান উদ্বেগ হলো ‘পুনরাবৃত্তিমূলক আত্ম-উন্নয়ন’। এর মাধ্যমে একটি এআই সিস্টেম নিজেই আরও উন্নত এআই তৈরির সক্ষমতা অর্জন করতে পারে। পরবর্তী সিস্টেমটি আবার এআই উন্নয়নে আরও দক্ষ হয়ে উঠলে দ্রুতগতির একটি উন্নয়নচক্র তৈরি হতে পারে।
তার আশঙ্কা, এ ধরনের ব্যবস্থা মানুষের নির্ধারিত লক্ষ্য ও নিরাপত্তা নীতির সঙ্গে সামঞ্জস্যপূর্ণ না হলে বড় ধরনের ঝুঁকি তৈরি হতে পারে।
এঙ্গেলস বলেন, প্রযুক্তি প্রতিষ্ঠানগুলো অতি-বুদ্ধিমান বা ‘সুপারইন্টেলিজেন্স’ তৈরির প্রতিযোগিতায় রয়েছে। এসব সিস্টেম ভবিষ্যতে বিভিন্ন কাজে মানুষের তুলনায় অনেক বেশি সক্ষম হতে পারে। তবে এমন সিস্টেমকে আত্ম-উন্নয়নের সুযোগ দেওয়ার আগে কীভাবে নিশ্চিতভাবে নিরাপদ রাখা যাবে, সে বিষয়ে এখনো যথেষ্ট নিশ্চয়তা নেই।
এঙ্গেলস সাম্প্রতিক কিছু এআই-সংক্রান্ত ঘটনার দিকেও ইঙ্গিত করেছেন। তার দাবি, কিছু মডেল একে অপরের সঙ্গে সমন্বয় করা, সাইবার হামলা চালানো, নিজেদের কার্যক্রম গোপন রাখা এবং মানুষকে প্রভাবিত করার মতো আচরণ প্রদর্শন করেছে।
তার মতে, এসব ঘটনা বিচ্ছিন্ন হলেও ক্রমবিকাশমান এআই ব্যবস্থার অনাকাঙ্ক্ষিত আচরণের সম্ভাবনা নিয়ে সতর্ক হওয়ার কারণ রয়েছে।
এআই প্রযুক্তির উন্নয়ন পুরোপুরি বন্ধ করার পক্ষে নন এঙ্গেলস। বরং তার প্রস্তাব, নিরাপত্তা ব্যবস্থা শক্তিশালী না হওয়া পর্যন্ত উন্নয়নের গতি কিছুটা নিয়ন্ত্রণে রাখা উচিত।
তিনি মনে করেন, এআইয়ের সক্ষমতা বৃদ্ধির গতি যেন মানুষের নিরাপত্তা ও সামঞ্জস্য নিশ্চিত করার সক্ষমতাকে ছাড়িয়ে না যায়, সেটি নিশ্চিত করা প্রয়োজন।
নতুন প্রতিষ্ঠান ‘মেটর’-এ এঙ্গেলস এআই সিস্টেমের অসামঞ্জস্যের উৎস খোঁজা, নিরাপত্তা ব্যবস্থার কার্যকারিতা পরীক্ষা এবং এআই গবেষণার নিরাপত্তা যাচাইয়ের কাজে যুক্ত হবেন। একই সঙ্গে এআই কোম্পানিগুলোর ওপর স্বাধীন তদারকি ও জবাবদিহি বাড়ানোর পক্ষেও মত দিয়েছেন তিনি।
এর আগে অ্যানথ্রোপিক ও ওপেনএআইয়ের সাবেক গবেষক জ্যাকব কক্সনও এআইয়ের সম্ভাব্য ঝুঁকি নিয়ে সতর্ক করেছিলেন। তার দাবি ছিল, এআই নির্মাতারা স্ব-উন্নয়নশীল অতি-বুদ্ধিমান সিস্টেম তৈরির দিকে এগোচ্ছেন এবং এর সম্ভাব্য পরিণতি ভয়াবহ হতে পারে।
অ্যানথ্রোপিকের অ্যালাইনমেন্ট সায়েন্স লিড ইভান হুবিঙ্গারও কক্সনের আশঙ্কার সঙ্গে একমত হয়ে এআই ঝুঁকি নিয়ে গুরুতর সতর্কতা জানিয়েছেন। তিনি আগামী এক দশকের মধ্যে এআইয়ের কারণে মানবজাতির অস্তিত্বের জন্য বড় ধরনের ঝুঁকির সম্ভাবনা নিয়ে আশঙ্কা প্রকাশ করেছেন।
তবে এসবই সংশ্লিষ্ট গবেষকদের ঝুঁকি মূল্যায়ন ও মতামত; এআই আগামী পাঁচ বা দশ বছরের মধ্যে মানবজাতিকে ধ্বংস করবে এমন কোনো নিশ্চিত ভবিষ্যদ্বাণী নয়।