ইলন মাস্কের এআই ফটো টুল ট্রাম্প, হ্যারিস এবং বাইডেনের বাস্তবসম্মত, ভুয়ো ছবি তৈরি করছে

মঙ্গলবার এলন মাস্কের এআই চ্যাটবট গ্রোক ব্যবহারকারীদের টেক্সট প্রম্পট থেকে এআই-উৎপাদিত চিত্র তৈরি করতে এবং সেগুলি এক্স-এ পোস্ট করার অনুমতি দেওয়া শুরু করেছে। প্রায় অবিলম্বে, লোকেরা প্রাক্তন রাষ্ট্রপতি ডোনাল্ড ট্রাম্প এবং ভাইস প্রেসিডেন্ট কমলা হ্যারিসের পাশাপাশি মাস্কের মতো রাজনৈতিক ব্যক্তিত্বদের জাল চিত্র দিয়ে সোশ্যাল মিডিয়া সাইটটি প্লাবিত করার জন্য সরঞ্জামটি ব্যবহার করতে শুরু করে-কিছু জনসাধারণের ব্যক্তিত্বকে স্পষ্টতই মিথ্যা কিন্তু তবুও বিরক্তিকর পরিস্থিতিতে চিত্রিত করে, যেমন ৯/১১ হামলায় অংশ নেওয়া।
অন্যান্য মূলধারার এআই ফটো সরঞ্জামগুলির বিপরীতে, মাস্কের কৃত্রিম বুদ্ধিমত্তা স্টার্টআপ এক্সএআই দ্বারা নির্মিত গ্রোকের কয়েকটি গার্ডরেল রয়েছে বলে মনে হয়।
উদাহরণস্বরূপ, সরঞ্জামটির পরীক্ষায়, সিএনএন সহজেই গ্রোককে রাজনীতিবিদ এবং রাজনৈতিক প্রার্থীদের জাল, আলোক বাস্তববাদী চিত্র তৈরি করতে সক্ষম হয়েছিল, যা প্রসঙ্গের বাইরে নেওয়া হলে ভোটারদের বিভ্রান্ত করতে পারে। এই সরঞ্জামটি জনসাধারণের ব্যক্তিত্বদের সৌম্য অথচ বিশ্বাসযোগ্য চিত্রও তৈরি করেছিল, যেমন মাস্ক একটি পার্কে স্টেক খাচ্ছেন।
কিছু এক্স ব্যবহারকারী ছবি পোস্ট করেছেন যা তারা বলেছেন যে তারা গ্রোকের সাথে তৈরি করেছেন যেখানে বিশিষ্ট ব্যক্তিরা মাদক সেবন করছেন, কার্টুন চরিত্রগুলি সহিংস হত্যা করছে এবং বিকিনি পরিহিত মহিলাদের যৌন চিত্র দেখা যাচ্ছে। প্রায় ৪০০,০০০ বার দেখা একটি পোস্টে, একজন ব্যবহারকারী গ্রোকের তৈরি একটি ছবি শেয়ার করেছেন যেখানে ট্রাম্প একটি ট্রাকের উপর থেকে হেলান দিয়ে রাইফেল চালাচ্ছেন। সিএনএন পরীক্ষা নিশ্চিত করেছে যে এই সরঞ্জামটি এই ধরনের ছবি তৈরি করতে সক্ষম।
কৃত্রিম বুদ্ধিমত্তা ইন্টারনেট জুড়ে, বিশেষ করে মার্কিন রাষ্ট্রপতি নির্বাচনের আগে, মিথ্যা বা বিভ্রান্তিকর তথ্যের বিস্ফোরণ ঘটাতে পারে বলে এই টুলটি উদ্বেগকে আরও বাড়িয়ে তুলতে পারে। আইন প্রণেতারা, সুশীল সমাজের দলগুলি এবং এমনকি প্রযুক্তি নেতারা নিজেরাই আশঙ্কা প্রকাশ করেছেন যে এই ধরনের সরঞ্জামের অপব্যবহার ভোটারদের জন্য বিভ্রান্তি এবং বিশৃঙ্খলা সৃষ্টি করতে পারে।
“গ্রোক বিশ্বের সবচেয়ে মজাদার এআই!” মাস্ক এক্স বুধবার পোস্ট করেছেন, একজন ব্যবহারকারীর “সেন্সরবিহীন” হওয়ার জন্য প্রশংসা করার প্রতিক্রিয়ায়।
বিজ্ঞাপন প্রতিক্রিয়া
অন্যান্য অনেক শীর্ষস্থানীয় এআই সংস্থা তাদের এআই চিত্র তৈরির সরঞ্জামগুলিকে রাজনৈতিক ভুল তথ্য তৈরি করতে ব্যবহার করা থেকে বিরত রাখতে কিছু পদক্ষেপ নিয়েছে, যদিও গবেষকরা দেখেছেন যে ব্যবহারকারীরা এখনও কখনও কখনও প্রয়োগকারী ব্যবস্থাগুলির আশেপাশে উপায় খুঁজে পেতে পারেন। ওপেনএআই, মেটা এবং মাইক্রোসফ্ট সহ কিছু সংস্থা দর্শকদের তাদের এআই সরঞ্জাম দিয়ে তৈরি চিত্রগুলি সনাক্ত করতে সহায়তা করার জন্য প্রযুক্তি বা লেবেলও অন্তর্ভুক্ত করে।
ইউটিউব, টিকটোক, ইনস্টাগ্রাম এবং ফেসবুক সহ প্রতিদ্বন্দ্বী সোশ্যাল মিডিয়া প্ল্যাটফর্মগুলিও ব্যবহারকারীদের ফিডে এআই-উৎপাদিত সামগ্রীকে লেবেল করার পদক্ষেপ নিয়েছে, হয় প্রযুক্তি ব্যবহার করে এটি সনাক্ত করতে বা ব্যবহারকারীদের কখন এই জাতীয় সামগ্রী পোস্ট করছে তা সনাক্ত করতে বলে।
রাজনৈতিক প্রার্থীদের সম্ভাব্য বিভ্রান্তিকর ছবি তৈরির বিরুদ্ধে গ্রোকের বিরুদ্ধে কোনও নীতি রয়েছে কিনা সে সম্পর্কে মন্তব্যের অনুরোধে এক্স তাৎক্ষণিকভাবে সাড়া দেয়নি।
শুক্রবারের মধ্যে, এক্সএআই সমালোচনামূলক প্রতিবেদন এবং ব্যবহারকারীরা যে বিরক্তিকর চিত্র তৈরি ও পোস্ট করছিল তার প্রতিক্রিয়ায় গ্রোকের উপর কিছু বিধিনিষেধ চালু করেছে বলে মনে হয়। টুলটি এখন রাজনৈতিক প্রার্থী বা ব্যাপকভাবে স্বীকৃত কার্টুন চরিত্রগুলির (যাদের বুদ্ধিবৃত্তিক সম্পত্তি অন্যান্য সংস্থার অন্তর্গত) সহিংসতার কাজ বা ঘৃণ্য বক্তব্যের প্রতীকগুলির পাশাপাশি চিত্র তৈরি করতে অস্বীকার করে, যদিও ব্যবহারকারীরা উল্লেখ করেছেন যে বিধিনিষেধগুলি কেবল নির্দিষ্ট শর্তাবলী এবং চিত্রের বিষয়গুলির মধ্যে সীমাবদ্ধ বলে মনে হয়েছিল।
“কৃত্রিম, কারচুপি করা, বা প্রসঙ্গের বাইরে এমন মিডিয়া যা মানুষকে প্রতারিত বা বিভ্রান্ত করতে পারে এবং ক্ষতির দিকে নিয়ে যেতে পারে” ভাগ করে নেওয়ার বিরুদ্ধে এক্স-এর একটি নীতি রয়েছে, যদিও নীতিটি কীভাবে প্রয়োগ করা হয় তা স্পষ্ট নয়। মাস্ক নিজেই গত মাসে এক্স-এ একটি ভিডিও শেয়ার করেছিলেন যা এআই ব্যবহার করে এটি দেখানোর জন্য যে হ্যারিস এমন কিছু বলেছিলেন যা তিনি আসলে করেননি-নীতির আপাত লঙ্ঘন এবং কেবল একটি হাসির মুখের ইমোজি দিয়ে অনুসারীদের পরামর্শ দেওয়ার জন্য যে এটি জাল ছিল।
নতুন গ্রোক ইমেজ টুলটিও আসে যখন মাস্ক রাষ্ট্রপতি নির্বাচনের সাথে সম্পর্কিত এক্স-এর উপর বারবার মিথ্যা এবং বিভ্রান্তিকর দাবি ছড়িয়ে দেওয়ার জন্য সমালোচনার মুখোমুখি হন, যার মধ্যে একটি পোস্ট ভোটিং মেশিনের নিরাপত্তা নিয়ে প্রশ্ন উত্থাপন করে। মাস্ক এক্স-এ দুই ঘণ্টারও বেশি লাইভস্ট্রিম কথোপকথনের জন্য ট্রাম্পকে হোস্ট করার কয়েকদিন পরেও এটি আসে যেখানে রিপাবলিকান আশাবাদী মাস্কের কাছ থেকে ধাক্কা ছাড়াই কমপক্ষে ২০ টি মিথ্যা দাবি করেছিলেন।
অন্যান্য এআই ইমেজ জেনারেশন টুলগুলি বিভিন্ন সমস্যার জন্য প্রতিক্রিয়ার সম্মুখীন হয়েছে। মানুষের জাতির ঐতিহাসিকভাবে ভুল চিত্র তৈরি করার জন্য বিস্ফোরিত হওয়ার পরে গুগল তার জেমিনি এআই চ্যাটবটের মানুষের ছবি তৈরির ক্ষমতা বন্ধ করে দিয়েছে; মেটা এর এআই ইমেজ জেনারেটর বিভিন্ন জাতিগত পটভূমি থেকে দম্পতি বা বন্ধুদের ছবি তৈরি করতে লড়াই করার জন্য সমালোচনার মুখে পড়েছিল। সিএনএন আবিষ্কার করে যে কোনও ব্যবহারকারী লেবেল ছাড়াই ভ্যাকসিনের ভুল তথ্য সহ যে কোনও কিছু বলার বাস্তবসম্মত-চেহারার ভিডিও তৈরি করতে পারে বলে টিকটক একটি এআই ভিডিও সরঞ্জাম টানতে বাধ্য হয়েছিল।
গ্রোকের কিছু সীমাবদ্ধতা রয়েছে বলে মনে হয়; উদাহরণস্বরূপ, একটি নগ্ন চিত্রের অনুরোধ করে একটি প্রম্পট একটি প্রতিক্রিয়া ফিরিয়ে দিয়েছিল, “দুর্ভাগ্যবশত, আমি এই ধরনের চিত্র তৈরি করতে পারি না”।
একটি পৃথক পরীক্ষায়, টুলটি বলেছে যে এটির “এমন বিষয়বস্তু তৈরির সীমাবদ্ধতা রয়েছে যা ক্ষতিকারক স্টেরিওটাইপ, ঘৃণামূলক বক্তব্য বা ভুল তথ্য প্রচার করে বা সমর্থন হিসাবে দেখা যেতে পারে”।
তিনি বলেন, ‘ঘৃণা বা বিভাজন উস্কে দিতে পারে এমন মিথ্যা বা বিষয়বস্তু ছড়ানো এড়ানো গুরুত্বপূর্ণ। আপনার যদি অন্য কোনও অনুরোধ থাকে বা অন্য কোনও বিষয়ে তথ্যের প্রয়োজন হয়, তাহলে নির্দ্বিধায় জিজ্ঞাসা করুন! ” গ্রোক বলেন।
যাইহোক, একটি ভিন্ন প্রম্পট প্রতিক্রিয়ায়, সরঞ্জামটি একটি ঘৃণ্য বক্তব্যের প্রতীকের পাশে দাঁড়িয়ে থাকা একটি রাজনৈতিক ব্যক্তিত্বের চিত্র তৈরি করেছিল-এটি একটি চিহ্ন যে গ্রোকের যে বিধিনিষেধই থাকুক না কেন, সেগুলি ধারাবাহিকভাবে প্রয়োগ করা হয়েছে বলে মনে হয় না।
Source : CNN