যুক্তরাজ্যের থিঙ্কট্যাঙ্ক সরকারের কাছে এআই ঘটনার রিপোর্টিং ব্যবস্থার আহ্বান জানিয়েছে

যুক্তরাজ্যের একটি থিঙ্ক ট্যাঙ্ক কৃত্রিম বুদ্ধিমত্তার (এআই) অপব্যবহার বা ত্রুটি নথিভুক্ত করার জন্য একটি ঘটনা প্রতিবেদন ব্যবস্থার প্রয়োজনীয়তার উপর জোর দিয়েছে। এটি ছাড়া, বিজ্ঞান, উদ্ভাবন ও প্রযুক্তি বিভাগ (ডিএসআইটি) এআই ব্যর্থতার গুরুত্বপূর্ণ অন্তর্দৃষ্টি এড়িয়ে যাওয়া হয়ে যেতে পারে।
দীর্ঘমেয়াদী স্থিতিস্থাপকতা কেন্দ্র (সিএলটিআর) বলেছে যে ওষুধ এবং বিমান চলাচলের মতো অন্যান্য সুরক্ষা-সমালোচনামূলক শিল্পে ঘটনার প্রতিবেদন সংগ্রহ ও তদন্ত করা হয় তবে এআই সম্পর্কিত যুক্তরাজ্যের নিয়ন্ত্রক পরিকল্পনায় একটি ‘উদ্বেগজনক ফাঁক’ রয়েছে।
সিএলটিআর বলেছে যে এর লক্ষ্য হল প্রাসঙ্গিক শাসন, প্রক্রিয়া এবং সিদ্ধান্ত গ্রহণের উন্নতির জন্য সরকার এবং অন্যান্য প্রতিষ্ঠানের সাথে কাজ করে ‘বিশ্বব্যাপী স্থিতিস্থাপকতাকে চরম ঝুঁকিতে রূপান্তরিত করা’।
“এআই-এর অপ্রত্যাশিত উপায়ে ব্যর্থ হওয়ার ইতিহাস রয়েছে, ২০১৪ সাল থেকে সংবাদ মাধ্যমগুলি দ্বারা নথিভুক্ত করা মোতায়েন করা এআই সিস্টেমে ১০,০০০-এরও বেশি নিরাপত্তা ঘটনা রয়েছে। সমাজে এআই-এর বৃহত্তর সংহতকরণের সাথে, ঘটনাগুলি সংখ্যা এবং প্রভাবের মাত্রায় বৃদ্ধি পেতে পারে, “প্রতিবেদনে সিএলটিআর বলেছে।
সি. এল. টি. আর দ্বারা তুলে ধরা সমালোচনামূলক ব্যবধান
সি. এল. টি. আর সতর্ক করেছে যে একটি শক্তিশালী ঘটনা রিপোর্টিং কাঠামো ছাড়া, ডি. এস. আই. টি পক্ষপাত, বৈষম্য বা ভুলভাবে সাজানো এজেন্টের মতো অত্যন্ত সক্ষম ভিত্তি মডেলের ঘটনাগুলি মিস করবে যা ক্ষতির কারণ হতে পারে।
সিএলটিআর আরও বলেছে যে সরকারি পরিষেবাগুলিতে সরকারের এআই ব্যবহারের ঘটনাগুলিতে ডিএসআইটি দৃশ্যমানতার অভাব দেখাবে যা সরাসরি জনসাধারণের ক্ষতি করতে পারে, যেমন অনুপযুক্তভাবে সুবিধাগুলির অ্যাক্সেস বাতিল করে, ন্যায়বিচারের গর্ভপাত তৈরি করে।
ঘটনার রিপোর্টিং ছাড়া, সি. এল. টি. আর যোগ করেছে যে ডি. এস. আই. টি-র ভুল তথ্য প্রচারণা বা জৈবিক অস্ত্র বিকাশের ব্যবহার সনাক্ত করতে কম দৃশ্যমানতা থাকবে যার জন্য যুক্তরাজ্যের নাগরিকদের সুরক্ষার জন্য জরুরি প্রতিক্রিয়া প্রয়োজন হতে পারে।
পরিশেষে, এআই সহযোগী, শিক্ষক এবং থেরাপিস্টদের ক্ষতির ঘটনাগুলিও সরকার মিস করতে পারে যেখানে গভীর স্তরের বিশ্বাসের সাথে ব্যাপক ব্যক্তিগত তথ্যের অপব্যবহার, কারসাজি, মৌলবাদ বা বিপজ্জনক পরামর্শের দিকে নিয়ে যেতে পারে।
“ডি. এস. আই. টি-তে এই ধরনের ঘটনাগুলির একটি কেন্দ্রীয়, আপ-টু-ডেট চিত্রের অভাব রয়েছে। যদিও কিছু নিয়ন্ত্রক কিছু ঘটনার প্রতিবেদন সংগ্রহ করবে, আমরা দেখতে পাচ্ছি যে এটি সীমান্ত এআই দ্বারা সৃষ্ট নতুন ক্ষতিগুলি ধরার সম্ভাবনা নেই “, সিএলটিআর বলেছে।
এআই ঘটনার প্রতিবেদনের উপকারিতা
সিএলটিআর জানিয়েছে যে ঘটনার প্রতিবেদন একটি প্রমাণিত নিরাপত্তা ব্যবস্থা যা এআই নিয়ন্ত্রণের ক্ষেত্রে ইউকে সরকারের প্রসঙ্গ-ভিত্তিক পদ্ধতিকে সমর্থন করে।
সি. এল. টি. আর বলেছে, “ডি. এস. আই. টি-কে অগ্রাধিকার দেওয়া উচিত যাতে যুক্তরাজ্য সরকার সংবাদের মাধ্যমে নয়, বরং ঘটনার প্রতিবেদনের প্রমাণিত প্রক্রিয়ার মাধ্যমে এই ধরনের নতুন ক্ষতি সম্পর্কে জানতে পারে”।
ঘটনার রিপোর্টিং বাস্তব-বিশ্বের প্রেক্ষাপটে এআই-সম্পর্কিত নিরাপত্তা ঝুঁকি পর্যবেক্ষণের অনুমতি দেবে, নিয়ন্ত্রক সমন্বয়গুলির জন্য একটি প্রতিক্রিয়া লুপ সরবরাহ করবে। এটি বড় ঘটনাগুলিতে সমন্বিত প্রতিক্রিয়া সক্ষম করবে, তারপরে ক্রস-সেক্টর শিক্ষার জন্য মূল কারণ তদন্ত করবে।
এটি এআই সেফটি ইনস্টিটিউট এবং সেন্ট্রাল এআই রিস্ক ফাংশন দ্বারা ঝুঁকি মূল্যায়নে ব্যবহারের জন্য সম্ভাব্য বড় আকারের ক্ষতির প্রাথমিক সতর্কতা সনাক্ত করতে সহায়তা করতে পারে।
সি. এল. টি. আর পরবর্তী পদক্ষেপের সুপারিশ করে সি. এল. টি. আর যুক্তরাজ্য সরকারকে অবিলম্বে পদক্ষেপ নেওয়ার জন্য তিনটি মূল সুপারিশের রূপরেখা দিয়েছে।
প্রথমত, তাঁরা জনসেবার মধ্যে কৃত্রিম বুদ্ধিমত্তার ঘটনাগুলি রিপোর্ট করার জন্য একটি সুবিন্যস্ত ব্যবস্থা প্রতিষ্ঠার পরামর্শ দেন। পাবলিক সেক্টরের সিদ্ধান্ত গ্রহণে ব্যবহৃত এআই সিস্টেমের সাথে জড়িত ঘটনাগুলির প্রতিবেদনের জন্য বিশেষভাবে ডিজাইন করা একটি কাঠামো অন্তর্ভুক্ত করার জন্য অ্যালগরিদমিক ট্রান্সপারেন্সি রেকর্ডিং স্ট্যান্ডার্ড (এটিআরএস) সম্প্রসারণের মাধ্যমে এটি অর্জন করা যেতে পারে।
এ. টি. আর. এস-এর লক্ষ্য হল রাষ্ট্রায়ত্ত সংস্থাগুলিকে তাদের ব্যবহৃত অ্যালগরিদমিক সরঞ্জামগুলি সম্পর্কে খোলাখুলিভাবে বিবরণ প্রকাশ করতে সক্ষম করে স্বচ্ছতা সহজতর করা।
সি. এল. টি. আর-এর মতে, এই ঘটনার প্রতিবেদনগুলি একটি সরকারি সত্তার কাছে পাঠানো উচিত এবং স্বচ্ছতা ও জবাবদিহিতা বাড়ানোর জন্য জনসাধারণের কাছে সম্ভাব্যভাবে উপলব্ধ করা উচিত।
দ্বিতীয়ত, সিএলটিআর সরকারকে এআই তদারকির ক্ষেত্রে গুরুত্বপূর্ণ ফাঁকগুলি চিহ্নিত করতে যুক্তরাজ্যের নিয়ন্ত্রক এবং বিশেষজ্ঞদের সাথে সহযোগিতা করার পরামর্শ দেয়। অগ্রাধিকারের ঘটনাগুলির ব্যাপক কভারেজ নিশ্চিত করতে এবং একটি কার্যকর নিয়ন্ত্রক কাঠামো প্রতিষ্ঠার জন্য প্রয়োজনীয় স্টেকহোল্ডার এবং প্রণোদনাগুলি বোঝার জন্য এই পদক্ষেপটি অত্যন্ত গুরুত্বপূর্ণ।
সবশেষে, সি. এল. টি. আর কৃত্রিম বুদ্ধিমত্তার ঘটনাগুলি পর্যবেক্ষণ, তদন্ত এবং প্রতিক্রিয়া জানাতে ডি. এস. আই. টি-র ক্ষমতা বাড়ানোর প্রস্তাব দেয়। এর সঙ্গে ডি. এস. আই. টি-র কেন্দ্রীয় কার্যাবলীর অধীনে একটি পাইলট এআই ঘটনার ডাটাবেস স্থাপন করা জড়িত থাকতে পারে, যার লক্ষ্য এআই ঘটনার প্রতিবেদন সংগ্রহ ও সমাধানের জন্য প্রয়োজনীয় নীতি ও প্রযুক্তিগত পরিকাঠামো তৈরি করা।
প্রাথমিকভাবে অংশীদারদের দ্বারা চিহ্নিত সবচেয়ে জরুরি ফাঁকগুলির উপর দৃষ্টি নিবদ্ধ করে, এই ডাটাবেসটি শেষ পর্যন্ত যুক্তরাজ্যের সমস্ত নিয়ন্ত্রকদের প্রতিবেদনগুলিকে অন্তর্ভুক্ত করতে পারে।
এআই নিরাপত্তায় যুক্তরাজ্য সরকারের হস্তক্ষেপ
মে মাসে, ইউকে সরকার ঘোষণা করে যে ইউকে এআই সেফটি ইনস্টিটিউটের মূল্যায়ন প্ল্যাটফর্মটি এআই মডেলগুলির নিরাপদ উদ্ভাবনের জন্য ‘পথ সুগম’ করার জন্য বিশ্বব্যাপী কৃত্রিম বুদ্ধিমত্তা (এআই) সম্প্রদায়ের জন্য উপলব্ধ করা হয়েছে।
বিশ্ব সম্প্রদায়ের কাছে পরিদর্শন মূল্যায়ন প্ল্যাটফর্ম উপলব্ধ করে, ইনস্টিটিউট বিশ্বব্যাপী পরিচালিত এআই সুরক্ষা মূল্যায়নের কাজকে ত্বরান্বিত করতে সহায়তা করতে চায়, যা আরও ভাল সুরক্ষা পরীক্ষা এবং আরও সুরক্ষিত মডেলের বিকাশের দিকে পরিচালিত করে।
ফেব্রুয়ারিতে, যুক্তরাজ্য সরকার ঘোষণা করে যে কীভাবে কৃত্রিম বুদ্ধিমত্তার (এআই) ঝুঁকি থেকে সমাজকে রক্ষা করা যায় তা অধ্যয়নের জন্য যুক্তরাজ্য গবেষকদের অনুদান দেবে।
এই তহবিলটি বর্ধিত উৎপাদনশীলতার মতো এআই-এর সুবিধাগুলি কাজে লাগানোর জন্যও ব্যবহার করা হবে। সবচেয়ে আশাব্যঞ্জক প্রস্তাবগুলি দীর্ঘমেয়াদী প্রকল্পে পরিণত করা হবে এবং আরও অর্থায়ন করা হবে।
একই সপ্তাহে খবরটি আসে যে ব্রিটেন এবং দক্ষিণ কোরিয়া এআই সেফটি ইনস্টিটিউটের একটি বৈশ্বিক নেটওয়ার্ক তৈরির বিষয়ে একটি যুগান্তকারী চুক্তিতে পৌঁছেছে। দক্ষিণ কোরিয়ায় একটি এআই শীর্ষ সম্মেলনে, দশটি দেশ এবং ইউরোপীয় ইউনিয়ন কৃত্রিম বুদ্ধিমত্তা (এআই) সুরক্ষার বিজ্ঞানের উন্নতির জন্য একটি নেটওয়ার্কে সহযোগিতা করার প্রতিশ্রুতি দিয়েছে।