جنت مرزا نے اے آئی سے بنے جعلی مواد پر خواتین کے وقار کو لاحق خطرات اجاگر کر دیے

جنت مرزا نے اے آئی سے بنے جعلی مواد پر خواتین کے وقار کو لاحق خطرات اجاگر کر دیے

پاکستانی ٹک ٹاکر اور سوشل میڈیا شخصیت جنت مرزا نے مصنوعی ذہانت کے ذریعے تیار کی گئی ایک جعلی ویڈیو پر ردعمل دیتے ہوئے خواتین کی تصاویر اور چہروں کے غیرمجاز استعمال کے بڑھتے ہوئے خطرات کی نشاندہی کی ہے۔

سوشل میڈیا پر گردش کرنے والی ایک مصنوعی ذہانت سے تیار کردہ ویڈیو میں جنت مرزا کو ایک نامعلوم شخص کے ساتھ دکھایا گیا۔ جنت مرزا نے انسٹاگرام اسٹوری کے ذریعے اس معاملے پر اپنا مؤقف بیان کرتے ہوئے کہا کہ کسی کے چہرے کو استعمال کرکے اس نوعیت کی ویڈیوز تیار کرنا تشویش ناک ہے۔

انہوں نے واضح کیا کہ وہ خود سوشل میڈیا پر فعال ہیں اور اس کے باوجود ایسی ویڈیو دیکھ کر انہیں بے چینی محسوس ہوئی، جبکہ ان خواتین کے لیے صورتحال مزید مشکل ہو سکتی ہے جو سوشل میڈیا استعمال نہیں کرتیں اور انہیں اپنی تصاویر یا چہرے کے غلط استعمال کا فوری علم بھی نہ ہو۔

مصنوعی ذہانت کے غلط استعمال پر جنت مرزا کا ردعمل

جنت مرزا نے اس مواد کو محض تفریح یا مذاق سمجھنے کے بجائے اس کے ممکنہ اثرات پر توجہ دلائی۔ ان کا کہنا تھا کہ آج ان کا چہرہ استعمال ہوا ہے، لیکن مستقبل میں کسی بھی لڑکی کی تصویر یا چہرہ اسی طرح استعمال کیا جا سکتا ہے، جس سے اس کے وقار اور نجی زندگی کو نقصان پہنچنے کا خطرہ موجود ہے۔

انہوں نے مصنوعی ذہانت کی ٹیکنالوجی کو مکمل طور پر مسترد نہیں کیا بلکہ اس کے غلط استعمال پر اعتراض کیا۔ ان کے مطابق حقیقی افراد کے بارے میں ان کی اجازت کے بغیر گمراہ کن یا نامناسب مواد تیار کرنا ایک ایسی حد ہے جس پر ذمہ دار افراد کے خلاف کارروائی ہونی چاہیے۔

خواتین کی تصاویر اور چہروں کے غیرمجاز استعمال کا مسئلہ

اے آئی ٹیکنالوجی کے عام ہونے کے ساتھ تصاویر، آوازوں اور چہروں کو تبدیل یا مصنوعی مواد میں استعمال کرنا پہلے کے مقابلے میں آسان ہو گیا ہے۔ جنت مرزا کے حالیہ معاملے نے خاص طور پر اس سوال کو نمایاں کیا ہے کہ کسی فرد کی شناخت کو اس کی رضامندی کے بغیر جعلی مواد میں استعمال کرنے کے کیا اثرات ہو سکتے ہیں۔

اس طرح کے مواد میں متاثرہ شخص کو نہ صرف اپنی شناخت کے غلط استعمال کا سامنا کرنا پڑ سکتا ہے بلکہ اسے نجی زندگی، شہرت اور سماجی تعلقات کے حوالے سے بھی مشکلات پیش آ سکتی ہیں۔

جنت مرزا نے اسی خدشے کی طرف توجہ دلاتے ہوئے کہا کہ اگر ایک معروف سوشل میڈیا شخصیت کو ایسے مواد کے سامنے آنے پر وضاحت دینا پڑ رہی ہے تو ان خواتین کے بارے میں سوچنا بھی ضروری ہے جو آن لائن موجود نہیں یا جنہیں اپنے نام سے پھیلنے والے جعلی مواد کا فوری علم نہیں ہو پاتا۔

حنا پرویز بٹ نے بھی معاملے پر تشویش ظاہر کر دی

جنت مرزا کے بیان کے بعد پنجاب اسمبلی کی رکن حنا پرویز بٹ نے بھی مصنوعی ذہانت کے غلط استعمال اور خواتین کے چہروں کو ان کی اجازت کے بغیر استعمال کرنے پر تشویش کا اظہار کیا۔

حنا پرویز بٹ نے کہا کہ ٹیکنالوجی کو ترقی اور سہولت کے لیے استعمال کیا جانا چاہیے، کسی فرد کی عزت، وقار یا نجی زندگی متاثر کرنے کے لیے نہیں۔ انہوں نے خواتین کی تصاویر اور چہروں کے غیرمجاز استعمال کو تشویش ناک قرار دیتے ہوئے متعلقہ حکام سے کارروائی کی ضرورت پر زور دیا۔

انہوں نے متاثرہ افراد کو یہ بھی مشورہ دیا کہ ایسے مواد کا اسکرین شاٹ محفوظ کریں، اصل لنک کو بطور ثبوت سنبھال کر رکھیں اور اسے مزید پھیلانے کے بجائے متعلقہ سائبر کرائم حکام کو رپورٹ کریں۔

اے آئی اور ڈیپ فیک مواد کے بڑھتے خدشات

مصنوعی ذہانت سے تیار یا تبدیل شدہ ویڈیوز کو عام طور پر ڈیپ فیک مواد کے تناظر میں بھی دیکھا جاتا ہے۔ اس ٹیکنالوجی کے ذریعے کسی حقیقی شخص کے چہرے یا شناخت کو ایسے منظر میں شامل کیا جا سکتا ہے جس میں وہ حقیقت میں موجود نہ ہو۔

جنت مرزا کا معاملہ اسی وسیع بحث کا حصہ بن گیا ہے جس میں ڈیجیٹل پرائیویسی، رضامندی اور مصنوعی ذہانت کے ذمہ دارانہ استعمال جیسے سوالات شامل ہیں۔

حالیہ عرصے میں خواتین کو نشانہ بنانے والے مصنوعی یا تبدیل شدہ مواد کے حوالے سے مختلف ممالک میں بھی تشویش سامنے آتی رہی ہے۔ اس بحث میں صرف مواد بنانے والے افراد ہی نہیں بلکہ اسے جان بوجھ کر پھیلانے، دوبارہ شیئر کرنے اور متاثرہ فرد کی شناخت کو نقصان پہنچانے والے رویوں پر بھی توجہ دی جا رہی ہے۔

متاثرہ افراد کے لیے رپورٹنگ اور ثبوت محفوظ رکھنا اہم

حنا پرویز بٹ کے مطابق کسی خاتون کی تصویر یا ویڈیو کو مصنوعی ذہانت کے ذریعے تبدیل کرکے استعمال کیے جانے کی صورت میں متاثرہ فرد کو فوری طور پر ثبوت محفوظ کرنے اور متعلقہ اداروں سے رابطہ کرنے پر توجہ دینی چاہیے۔

ایسے معاملے میں اصل مواد کو مزید پھیلانے کے بجائے اس کا لنک، اسکرین شاٹ اور دیگر دستیاب معلومات محفوظ کرنا رپورٹنگ کے لیے زیادہ مفید ہو سکتا ہے۔

پاکستان میں مصنوعی ذہانت سے بننے والے جعلی مواد کے حوالے سے قانونی اور ادارہ جاتی ردعمل بھی ایک اہم موضوع بن چکا ہے، خصوصاً ایسے معاملات میں جہاں کسی فرد کی رضامندی کے بغیر اس کی شناخت استعمال کی جائے۔

سوشل میڈیا صارفین کے لیے اہم سوال

جنت مرزا کے بیان نے سوشل میڈیا صارفین کے سامنے یہ سوال بھی رکھا ہے کہ کسی وائرل ویڈیو یا تصویر کو شیئر کرنے سے پہلے اس کی حقیقت جانچنا کس قدر ضروری ہے۔

کسی معروف شخصیت کا چہرہ کسی ویڈیو میں نظر آنا لازماً اس بات کا ثبوت نہیں کہ ویڈیو حقیقی ہے۔ مصنوعی ذہانت کے ذریعے بنائے گئے مواد میں حقیقت اور جعل سازی کے درمیان فرق کرنا بعض اوقات مشکل ہو سکتا ہے۔

اس لیے غیرمصدقہ مواد کو محض تفریح سمجھ کر آگے پھیلانے کے بجائے اس کے ممکنہ اثرات کو مدنظر رکھنا ضروری ہے، خاص طور پر جب اس میں کسی حقیقی شخص کی شناخت یا نجی زندگی شامل ہو۔

مصنوعی ذہانت کے ذمہ دارانہ استعمال کی ضرورت

مصنوعی ذہانت تعلیم، تحقیق، کاروبار، طب اور دیگر شعبوں میں متعدد مفید کاموں کے لیے استعمال ہو رہی ہے۔ تاہم جنت مرزا کے معاملے نے اس ٹیکنالوجی کے ذمہ دارانہ استعمال کی اہمیت کو ایک بار پھر نمایاں کیا ہے۔

حقیقی افراد کے چہروں، تصاویر اور شناخت کو ان کی اجازت کے بغیر استعمال کرنا ڈیجیٹل پرائیویسی اور رضامندی کے حوالے سے سنجیدہ سوالات پیدا کرتا ہے۔ اسی لیے ٹیکنالوجی کے فوائد کے ساتھ اس کے غلط استعمال سے بچاؤ کے لیے صارفین، پلیٹ فارمز اور متعلقہ اداروں کے کردار پر بھی بحث جاری ہے۔

نتیجہ

جنت مرزا کی جانب سے مصنوعی ذہانت سے تیار کردہ جعلی ویڈیو پر ردعمل نے خواتین کے چہروں اور تصاویر کے غیرمجاز استعمال کے مسئلے کو نمایاں کر دیا ہے۔ ان کا کہنا ہے کہ آج کسی ایک خاتون کا چہرہ غلط استعمال ہو سکتا ہے، لیکن مستقبل میں یہی مسئلہ کسی بھی لڑکی کو متاثر کر سکتا ہے۔

واقعے پر حنا پرویز بٹ کی جانب سے بھی تشویش کا اظہار کیا گیا اور متاثرہ افراد کو ایسے مواد کی رپورٹنگ کے لیے متعلقہ اداروں سے رابطہ کرنے کا مشورہ دیا گیا۔

مصنوعی ذہانت کے بڑھتے استعمال کے ساتھ ڈیجیٹل رضامندی، پرائیویسی اور جعلی مواد کی روک تھام ایسے معاملات ہیں جن پر صارفین اور متعلقہ اداروں کی مسلسل توجہ ضروری ہے۔