চ্যাটবট নকল করায় প্রযুক্তি সংস্থাগুলিকে সতর্ক করল অফকম ব্রায়ানা ঘে এবং মলি রাসেল

অফকম প্রযুক্তি সংস্থাগুলিকে সতর্ক করেছে যে বাস্তব এবং কাল্পনিক মানুষের ছদ্মবেশ ধারণকারী চ্যাটবটগুলির বিষয়বস্তু যুক্তরাজ্যের নতুন ডিজিটাল আইনগুলির অনুপযুক্ত হতে পারে।
যোগাযোগ নিয়ন্ত্রক এই নির্দেশিকা জারি করে যখন এটি প্রকাশিত হয় যে ব্যবহারকারীরা চরিত্রটিতে রয়েছে।এআই প্ল্যাটফর্ম মৃত ব্রিটিশ কিশোর ব্রায়ানা ঘে এবং মলি রাসেলকে অনুকরণ করে অবতার তৈরি করেছিল।
পরিস্থিতি স্পষ্ট করার জন্য ডিজিটাল নিরাপত্তা প্রচারকারীদের চাপে, অফকম উল্লেখ করেছে যে ব্যবহারকারী-নির্মিত চ্যাটবট দ্বারা তৈরি বিষয়বস্তু অনলাইন নিরাপত্তা আইনের আওতায় আসবে।
মার্কিন-ভিত্তিক কৃত্রিম বুদ্ধিমত্তা সংস্থা Character.AI এর নাম উল্লেখ না করে, অফকম বলেছে যে এমন একটি সাইট বা অ্যাপ্লিকেশন যা ব্যবহারকারীদের তাদের নিজস্ব চ্যাটবট তৈরি করতে দেয় যাতে অন্য লোকেরা যোগাযোগ করতে পারে।
অফকম বলেছে, “এর মধ্যে এমন পরিষেবাগুলি অন্তর্ভুক্ত রয়েছে যা ব্যবহারকারীদের চ্যাটবট তৈরি করার সরঞ্জাম সরবরাহ করে যা বাস্তব এবং কাল্পনিক মানুষের ব্যক্তিত্ব অনুকরণ করে, যা অন্যদের সাথে যোগাযোগের জন্য চ্যাটবট লাইব্রেরিতে জমা দেওয়া যেতে পারে।
একটি খোলা চিঠিতে, অফকম আরও বলেছে যে কোনও ব্যবহারকারী-থেকে-ব্যবহারকারী সাইট বা অ্যাপ-যেমন কোনও সোশ্যাল মিডিয়া প্ল্যাটফর্ম বা মেসেজিং অ্যাপ-যা মানুষকে সেই সাইটে চ্যাটবট দ্বারা উৎপন্ন সামগ্রী অন্যদের সাথে ভাগ করে নিতে সক্ষম করে। আইনটি লঙ্ঘনকারী সংস্থাগুলি ১৮ মিলিয়ন পাউন্ড বা কোনও সংস্থার বিশ্বব্যাপী টার্নওভারের ১০% জরিমানার মুখোমুখি হবে। চরম ক্ষেত্রে, ওয়েবসাইট বা অ্যাপগুলিও অবরুদ্ধ করা যেতে পারে।
অফকম বলেছে যে এটি “বেদনাদায়ক ঘটনার” পরে এই নির্দেশিকা জারি করেছে। এটি ডেইলি টেলিগ্রাফ দ্বারা প্রথম রিপোর্ট করা একটি কেসকে হাইলাইট করেছে যেখানে চরিত্র।এআই ব্যবহারকারীরা গত বছর দুই কিশোরীর দ্বারা খুন হওয়া ১৬ বছর বয়সী ব্রায়ানা এবং ২০১৭ সালে ক্ষতিকারক অনলাইন বিষয়বস্তু দেখার পরে নিজের জীবন নেওয়া মলির ভার্চুয়াল ক্লোন হিসাবে কাজ করার জন্য বট তৈরি করেছিলেন।
এটি মার্কিন যুক্তরাষ্ট্রে একটি ঘটনার দিকেও ইঙ্গিত করেছিল যেখানে একটি কিশোর একটি চরিত্রের সাথে সম্পর্ক গড়ে তোলার পরে মারা গিয়েছিল।গেম অফ থ্রোনস চরিত্রের উপর ভিত্তি করে এআই অবতার।
নতুন অনলাইন সুরক্ষা বিধিগুলি, যা আগামী বছর পুরোপুরি কার্যকর হতে শুরু করবে, ব্যবহারকারীদের, বিশেষত শিশুদের, অবৈধ এবং অন্যান্য ক্ষতিকারক উপাদান থেকে রক্ষা করার জন্য ব্যবহারকারী-তৈরি সামগ্রী হোস্ট করে এমন সোশ্যাল মিডিয়া এবং অন্যান্য প্ল্যাটফর্মগুলির প্রয়োজন হবে।
নিয়মগুলির জন্য বৃহত্তম প্ল্যাটফর্মগুলিকে অবৈধ এবং অন্যান্য সম্ভাব্য ক্ষতিকারক উপাদানগুলি সক্রিয়ভাবে অপসারণের জন্য ব্যবস্থা তৈরি করতে হবে, পাশাপাশি ব্যবহারকারীদের স্পষ্ট প্রতিবেদনের সরঞ্জাম সরবরাহ করতে হবে এবং অন্যান্য নতুন দায়িত্বের মধ্যে ঝুঁকি মূল্যায়ন করতে হবে।
মলির পরিবারের প্রতিষ্ঠিত দাতব্য সংস্থা মলি রোজ ফাউন্ডেশন (এম. আর. এফ) বলেছে যে এই নির্দেশনা একটি “স্পষ্ট সংকেত” পাঠিয়েছে যে চ্যাটবটগুলি উল্লেখযোগ্য ক্ষতি করতে পারে।
তবে, এমআরএফ বলেছে যে বট-উৎপাদিত বিষয়বস্তু এই আইনের অধীনে অবৈধ হিসাবে বিবেচিত হতে পারে কিনা সে সম্পর্কে আরও স্পষ্টতা প্রয়োজন ছিল, সন্ত্রাসবাদ আইন সম্পর্কিত সরকারের উপদেষ্টা জোনাথন হল কেসি এই বছর বলেছিলেন যে এআই চ্যাটবটের প্রতিক্রিয়াগুলি বিদ্যমান আইন দ্বারা পর্যাপ্তভাবে আচ্ছাদিত হয়নি। অফকম শীঘ্রই চ্যাটবট সামগ্রী সহ প্ল্যাটফর্মগুলিতে অবৈধ বিষয়বস্তু মোকাবেলার জন্য নির্দেশিকা তৈরি করবে।
আইনি সংস্থা লিঙ্কলেটার্সের অংশীদার বেন প্যাকার বলেনঃ “অফকমকে স্পষ্ট করতে হয়েছে যে এই পরিষেবাগুলি সুযোগের মধ্যে থাকতে পারে যা অনলাইন নিরাপত্তা আইনের বিশাল প্রশস্ততা এবং নিখুঁত জটিলতাকে প্রতিফলিত করে। এটি এই সত্যের একটি লক্ষণ যে এই আইনটি জেএনএআই সরঞ্জাম এবং চ্যাটবটগুলির বিস্তারের বেশ কয়েক বছর আগে থেকে শুরু হয়েছিল।
চরিত্র। এআই বলেছে যে এটি তার প্ল্যাটফর্মে সুরক্ষাকে গুরুত্বের সাথে নিয়েছে এবং সক্রিয়ভাবে এবং ব্যবহারকারীর প্রতিবেদনের প্রতিক্রিয়ায় চরিত্রগুলিকে সংযত করে এবং ঘে, রাসেল এবং গেম অফ থ্রোনস চ্যাটবটগুলি সরানো হয়েছে।
সূত্রঃ দ্য গার্ডিয়ান