لوگ یہ کہہ رہے ہیں کہ ٹویٹر کے فوٹو پیش نظارہ الگورتھم نسل پرستی ہے ، ٹویٹر اس سے اتفاق کرتا ہے اور اسے درست کرنے کی کوشش کرتا ہے

کمپیوٹر واقعی غلطیاں نہیں کرتے ہیں۔ ان کی طرح لگتا ہے جیسے وہ کبھی کبھی کرتے ہیں ، لیکن وہ صرف ضابطہ اخلاق اور ان پٹ پر عمل پیرا ہیں کہ انہیں تفویض کیا گیا ہے & ہیلپ اور کبھی کبھی کچھ دلچسپ شامل آدانوں.

زیادہ دن پہلے ، انٹرنیوٹس تھے ہنسنا گوگل کے تصویری سرچ الگورتھم کو ظاہر کرنے کیلئے افریقی امریکی ڈاکٹر جب تلاش کرتے ہو گورے امریکی ڈاکٹر .



اس بار ، یہ ٹویٹر ہے اور اس کی تصویر کھیتی کرنے والی الگورتھم ہے۔ لوگ شروع ہوچکے ہیں غور کرنا ٹویٹر اس طرح کی تصاویر کو کس طرح کٹاتا ہے جو سفید جلد کے لوگوں کو ترجیح دیتا ہے جو کہ سیاہ جلد والے لوگوں کے برخلاف ہے۔

ٹویٹر کے پاس ایک AI ہے ، اگر آپ لمبی اور پتلی تصاویر شائع کرتے ہیں تو ، یہ اس مرکز پر مرکوز ہے جو اس کے خیال میں ٹویٹ کا بہترین حصہ ہے۔

لیکن لوگوں نے دیکھا کہ وہ سیاہ چہروں کے بجائے سفید چہروں پر مرکز بنانا ترجیح دیتی ہے کیونکہ اصل تصویر کے ان پٹ میں اصل میں براک اوباما بھی شامل تھے



تصویری کریڈٹ: جھولی کرسی

لہذا ، یہ سب تب شروع ہوا جب ٹویٹر صارف کولن میڈلینڈ تھا خرابیوں کا سراغ لگانا ایک متعلقہ معاملے پر ساتھی لیکن بالکل مختلف پلیٹ فارم پر۔ پتہ چلتا ہے ، ویڈیو کانفرنسنگ پروگرام زوم ایسا لگتا ہے کہ اگر کوئی کسٹم بیک گراؤنڈ استعمال کیا گیا ہو تو وہ کسی سیاہ فام شخص کے سر سے چھٹکارا پاتا ہے۔ یہ صرف سر کو پس منظر کا ایک حصہ سمجھتا ہے۔

لیکن یہ تب تک نہیں تھا جب تک کہ اس نے مزید پریشانی کا ازالہ کرنے کے لئے ٹویٹر پر کچھ مثالی اسکرین شاٹس شائع ک that کہ وہ سمجھ گیا کہ ٹویٹر بھی اس کے نیورل نیٹ ورکنگ شینیانیوں پر منحصر ہے۔ اس نے دیکھا کہ موبائل ورژن پر اس کا لمبا افقی اسکرین شاٹ صرف اس میں شامل کرنے کے لئے تیار کیا گیا ، نہ کہ اس کا ساتھی۔



اس پر غور کرنے کے بعد ، دوسرے لوگوں نے ان میں سفید اور سیاہ فام لوگوں کے ساتھ عجیب ، لمبی تناسب کے ساتھ تصاویر بنانا شروع کردیں تاکہ فصل کی الگورتھم کو مرکز کی حیثیت کا انتخاب کرنے پر مجبور کریں۔ اور تھوڑا سا غیر سرکاری تجربہ کرنے سے یہ ظاہر ہوتا ہے کہ یہ نظام سیاہ چہروں پر سفید چہروں کو ترجیح دیتا ہے۔

لوگوں نے اس کی جانچ دیگر تصاویر کے ساتھ شروع کردی ، اور یقین ہے کہ گورے تاجر کے بارے میں ٹویٹ مراکز کافی ہیں

& نرپ اگرچہ ان پٹ میں ایک کالے بزنس مین کو بھی شامل کیا گیا تھا ، اور فوٹو پوزیشن سے کوئی فرق نہیں پڑا تھا

بچوں کے لئے ہالووین کے لئے کیا ہونا چاہئے

تصویری کریڈٹ: الکسانہ

متعدد ٹویٹرز نے اس کی جانچ کی اسٹاک فوٹو ، سیاستدان ، اور یہاں تک کہ کارٹون ، یعنی سمپسن حروف لینی اور کارل . زیادہ تر اکثر ، تصاویر کو ایسے انداز میں تراش لیا گیا جس نے سفید چہروں کو ترجیح ظاہر کی۔

2018 کے اوائل میں ، ٹویٹر نے ٹویٹس کے مسئلے کی نشاندہی کی جس میں فوٹو کے سیٹ دکھائے گئے جو آف سینٹر ہیں۔ انہوں نے اس طرح ایک میکانزم ایسا سمجھا جاتا ہے کہ وہ تصویر میں انفرادی عناصر کو پہچان سکے اور مرکز کے بجائے ان پر مرکز بنائے۔ اس سے قبل ، یہ سب چہرے کی شناخت پر ہی چلایا جاتا تھا ، اور جب کہ تمام تصاویر کے چہرے نہیں ہوتے ہیں ، ان کو بہتر بنانے کی ضرورت ہوتی ہے۔

نتائج کسی حد تک مختلف تھے ، لیکن ان میں سے زیادہ تر ، ٹویٹر کے اے آئی میں نسلی تعصب ظاہر کرتے دکھائی دیتے ہیں

تصویری کریڈٹ: gnomestale

بہت سی نئی ٹیکنالوجیز کی طرح ، یہ بھی کامل نہیں ہے۔ کے مطابق NITS مطالعہ ، یہ ثابت ہوا کہ آج کے چہرے کی شناخت والا سوفٹ ویئر ایشیائی اور افریقی امریکی چہروں کے لئے 10 سے 100 تک کی غلط شناختی عنصر کے ساتھ غیر سفید چہروں کے ساتھ خراب کارکردگی کا مظاہرہ کرتا ہے۔ تو ، بہتری کی گنجائش موجود ہے۔

اب ، یہ ایک قابل فہم غلطی ہے اور ایسا نہیں ہے کہ الگورتھم خالصتاased متعصب ہے ، کیوں کہ کچھ تصویر کٹائی کے نتائج نے سیاہ چہرے بھی دکھائے ہیں۔ ٹویٹر کمیونی کیشنز ٹیم کے لز کیلی بھی وضاحت کی یہ کہ اعصابی نیٹ ورک کو کسی بھی نسلی اور یہاں تک کہ صنفی تعصب کے لئے چیک کیا گیا تھا اور کسی کا بھی پتہ نہیں چل سکا تھا۔ تاہم ، واضح طور پر زیادہ تجزیہ اور جانچ کی ضرورت ہے کیونکہ یہ نتائج متعصبانہ معلوم ہوتے ہیں۔

سیاستدانوں اور مشہور شخصیات کے علاوہ ، لوگوں نے اسٹاک فوٹو کا ایک گروپ تیار کیا

ذیل میں دیکھے گئے تمام 4 آدانوں کی تعداد لوگوں کے باوجود ، سفید بزنس مین پر مرکوز تھی

تصویری کریڈٹ: sina_rawayama

یہاں تک کہ اے آئی نے ان تصویروں پر روشنی ڈالی جو کسی سفید فام شخص کے چہرے پر مشتمل ناقص ترمیم کی گئی تھیں

تصویری کریڈٹ: جولائیکریکری

یہ فیصلہ کرنے میں مقدار میں بھی تغیر نہیں تھا کہ نتائج ایک جیسے ہی ہونے پر کون مرکز بنائے گا

تصویری کریڈٹ: doidinhavids

ٹویٹر کے سی ڈی او ، ڈینٹلی ڈیوس ، بھی کہا یہ کہ یہ ٹویٹر کی 100 fault غلطی ہے اور کسی کو بھی ورنہ نہیں کہنا چاہئے ، متعدد لوگوں کے یہ کہتے ہوئے بھی کہ یہ مقصد کے مطابق نہیں کیا گیا - یہ ایک اے آئی ہے ، اور غلطی غیر متعلقہ ہے کیونکہ اس مسئلے کو ہمیشہ مسئلے کو ٹھیک کرنے پر توجہ دینی چاہئے۔ .

ابھی کے لئے ، یہ یقینی نہیں ہے کہ الگورتھم کی وجہ سے وہ سیاہ فاموں پر سفید چہروں کو ترجیح دینے کے ساتھ کیا کرتا ہے۔ صرف اس کی وضاحت ہے تلاش کرنے کے لئے جاتا ہے تصویر میں سب سے نمایاں

ایک شخص نے مختلف رنگوں کے تعلقات آزمائے اور یہاں تک کہ مختلف نتائج کے ساتھ رنگوں کو بھی الٹا دیا

تصویری کریڈٹ: جھولی کرسی

بظاہر ، جانوروں کے ساتھ یہاں تک کہ ایک ترجیح صرف اس وجہ سے ہے کہ وہ ایک روشن رنگ پیلیٹ کے ہیں

شراب کے گلاس فروخت کے لئے بوتل سے منسلک

تصویری کریڈٹ: ما_لوپیس 2

ٹویٹر اس مسئلے سے آگاہ ہے اسے حل کرنے پر کام کر رہا ہے

تصویری کریڈٹ: بیلبلیوبیری

اگرچہ ڈیوس نے وضاحت کی کہ شاید اے آئی دیگر اضافی تغیرات پر فوکس کر رہی ہے تاکہ اس بات کا تعین کیا جاسکے کہ تصویر کو کس مقام پر رکھا جائے ، دوسروں نے یہ بھی اشارہ کیا کہ اس پہلو کا تناسب ، پس منظر یا رنگ سکیم کا بھی اس سے کچھ لینا دینا ہوسکتا ہے۔ تاہم ، یہ ایک غیر سائنسی وضاحت ہے جس کی تصدیق یا تردید ابھی باقی ہے۔

اس مسئلے نے انٹرنیٹ پر تھوڑا سا ہنگامہ کھڑا کردیا جس میں انفرادی ٹویٹس کے ذریعے تعصب کی مثال دی گئی اور کچھ نے الگورتھم کو نسل پرست بھی قرار دیا۔ انہوں نے کہا کہ ٹویٹس نے ہزاروں لوگوں کو ہزاروں پسندیدگی اور ریٹویٹس حاصل کیے ، ایک خاص شخص کے ساتھ ٹویٹ مِچ میک کونل یا براک اوباما سے موازنہ کریں جس میں 185،000 سے زیادہ لائیکس آسکیں۔

اے آئی کارٹونوں سے بھی متعصبانہ معلوم ہوا جیسا کہ سمپسن سے لینی اور کارل کے ساتھ دیکھا گیا تھا

تصویری کریڈٹ: _jsimonovski

کتوں کے ساتھ بھی ایسا ہی ہے

تصویری کریڈٹ: مارک ایمارک اے یو

الگورتھم مکمل طور پر متعصب نہیں تھا کیونکہ ایسے نتائج سامنے آئے تھے جہاں اس نے سیاہ فام لوگوں کو ترجیح دی ، جیسا کہ ذیل میں پیش نظارہ اور ان پٹ میں دیکھا گیا ہے۔

یہ قیاس کیا گیا تھا کہ یہ مسکراہٹ یا نمایاں چہروں کی وجہ سے ہوسکتا ہے ، جو AI کے لئے چننے میں آسان ہیں

تصویری کریڈٹ: TLopesVictorM

اس اصول کی واحد استثنیٰ یہ سب کے لئے مفت تھی جہاں یہ چہروں کے ساتھ ساتھ اشیاء بھی تھا

تصویری کریڈٹ: mikaozl

اس پر آپ کے کیا خیالات ہیں؟ ہمیں ذیل میں تبصرہ سیکشن میں بتائیں!

کچھ ٹویٹرز نے اس پر کیا رد عمل ظاہر کیا وہ یہ ہیں

لمبی خواتین جو مختصر مردوں کو پسند کرتی ہیں