কৃত্রিম বুদ্ধিমত্তার অপব্যবহার করে ডিপফেক অর্থাৎ ব্যক্তির মুখ, কণ্ঠস্বর ও আচরণ নকল করে ভুয়া ভিডিও তৈরির বিরুদ্ধে বিশ্বজুড়ে তীব্র সমালোচনার মুখে পড়েছে ‘গ্রোক’। ইলন মাস্কের কৃত্রিম বুদ্ধিমত্তা প্রতিষ্ঠান ‘এক্সএআই’-এর তৈরি এ চ্যাটবট এবার নিষিদ্ধ করেছে ফিলিপাইন সরকার।
দেশটির তথ্য ও যোগাযোগ প্রযুক্তি বিভাগ জানায়, গ্রোকের মাধ্যমে অশালীন ও ডিপফেক কনটেন্ট তৈরির ঝুঁকি থাকায় এ সিদ্ধান্ত। বিশেষ করে শিশু ও নারীদের নিরাপত্তা এবং অনলাইনে অশালীন কনটেন্ট ছড়ানো ঠেকাতেই গ্রোকের ওয়েবসাইট বন্ধ করা হয়েছে। ফিলিপাইনের বিদ্যমান সাইবার আইন ও শিশু সুরক্ষা আইনের সঙ্গে এসব কনটেন্ট সাংঘর্ষিক।
ফিলিপাইনের সাইবারক্রাইম ইনভেস্টিগেশন অ্যান্ড কো-অর্ডিনেটিং সেন্টারের প্রধান রেনাতো পারাইসো বলেছেন, গ্রোক এখনও এক্স প্ল্যাটফর্মের মাধ্যমে ব্যবহার করা যাচ্ছে। এটাই আমাদের জন্য সবচেয়ে বড় চ্যালেঞ্জ। আমরা কেবল স্বতন্ত্র ওয়েবসাইটটি ব্লক করতে পেরেছি।
তবে সরকার জানিয়েছে, সামাজিক যোগাযোগমাধ্যম এক্সের মাধ্যমে গ্রোকের ব্যবহার পুরোপুরি নিয়ন্ত্রণ করা কঠিন। এ কারণে এক্সএআই-এর সঙ্গে আলোচনা করে কনটেন্ট নিয়ন্ত্রণে কঠোর ব্যবস্থা নিতে বিবেচনায় করা হচ্ছে।
এর আগে দক্ষিণ-পূর্ব এশিয়ার আরও কয়েকটি দেশ গ্রোকের কনটেন্ট নীতি নিয়ে উদ্বেগ প্রকাশ করেছিল। ইন্দোনেশিয়া ও মালয়েশিয়া নিষিদ্ধ করার পর ফিলিপাইনের এই সিদ্ধান্ত এআই প্রযুক্তির ব্যবহার ও নিয়ন্ত্রণ নিয়ে চলমান আন্তর্জাতিক বিতর্ক আরও সামনে নিয়ে এলো।