الگورتھمک تعصب کی ذمہ داری قانونی ذمہ داری ہے جب ایک خودکار نظام امتیازی نتائج پیدا کرتا ہے تو ایک تنظیم اس کو اٹھاتی ہے۔ نیدرلینڈ میں یہ ذمہ داری تین بنیادوں پر منحصر ہے جو آج پہلے سے لاگو ہیں: ڈچ سول کوڈ کے آرٹیکل 6:162 کی عمومی ٹارٹ پروویژن، نیدرلینڈز انسٹی ٹیوٹ برائے انسانی حقوق کے زیر نگرانی مساوی سلوک کی قانون سازی، اور انصاف پسندی اور خودکار فیصلہ سازی سے متعلق GDPR کے قوانین۔ EU AI ایکٹ ایک اور پرت کا اضافہ کرتا ہے، جس کا کچھ حصہ پہلے سے نافذ ہے اور جس کا کچھ حصہ اس دہائی کے آخر میں شروع ہوتا ہے۔
عملی نتیجہ سیدھا ہے۔ ایک کمپنی جو ریکروٹمنٹ فلٹر، کریڈٹ ماڈل یا دھوکہ دہی کا پتہ لگانے والا سکور لگاتی ہے وہ اس کے لیے جوابدہ ہے کہ وہ سسٹم کیا کرتا ہے، چاہے اس نے ماڈل خود بنایا ہو یا نہ ہو اور کسی نے نتیجہ نکالنے کا ارادہ کیا ہو یا نہیں۔ ڈچ امتیازی قانون میں فیصلے کا اثر شمار ہوتا ہے، نہ کہ اس کے پیچھے محرک۔
الگورتھمک تعصب کی ذمہ داری دراصل کس چیز کا احاطہ کرتی ہے۔
الگورتھمک تعصب اس وقت پیدا ہوتا ہے جب ایک خودکار نظام تقابلی لوگوں کے ساتھ اس بنیاد پر مختلف سلوک کرتا ہے کہ قانون تحفظ دیتا ہے، یا اس بنیاد پر جو ان کے متبادل کے طور پر کام کرتا ہے۔ یہ شاذ و نادر ہی خود کا اعلان کرتا ہے۔ کمپنی کے اپنے فیصلوں کی ایک دہائی پر تربیت یافتہ ماڈل ان فیصلوں میں جو بھی نمونہ رکھتا ہے اسے دوبارہ پیش کرے گا، اور یہ اس کو چھونے والی ہر فائل پر، رفتار سے، مستقل طور پر کرے گا۔ یہ مستقل مزاجی ہے جو تکنیکی خرابی کو قانونی نمائش میں بدل دیتی ہے: ایک واحد متعصب انسانی فیصلہ ایک واقعہ ہے، جبکہ ایک متعصب ماڈل ایک پالیسی ہے۔
ذمہ داری تین الگ الگ ذرائع سے ہوتی ہے، اور انہیں ایک ہی وقت میں ایک ہی فیصلے سے متحرک کیا جا سکتا ہے۔ شہری ذمہ داری اس شخص کو معاوضہ دیتی ہے جس کا نقصان ہوا ہے۔ مساوی سلوک کا قانون اس شخص کو نیدرلینڈز انسٹی ٹیوٹ فار ہیومن رائٹس (College voor de Rechten van de Mens) یا سول کورٹ میں جانے کا راستہ فراہم کرتا ہے، ثبوت کے بوجھ کے ساتھ جو کہ امتیازی سلوک کا قیاس ہو جانے کے بعد تنظیم کی طرف منتقل ہو جاتا ہے۔ ڈیٹا پروٹیکشن قانون ڈچ ڈیٹا پروٹیکشن اتھارٹی (Autoriteit Persoonsgegevens) کو نافذ کرنے والے اختیارات دیتا ہے جو کسی بھی فرد پر بالکل بھی انحصار نہیں کرتا جو دعویٰ لاتا ہے۔
اس میں سے کسی کو بھی پہلے سے طے شدہ AI قانون کی ضرورت نہیں ہے۔ ان مقدمات کا فیصلہ کرنے والے قواعد ٹیکنالوجی کے موجود ہونے سے پہلے لکھے گئے تھے اور بغیر کسی ترمیم کے اس پر لاگو ہوتے ہیں۔
جہاں تعصب خودکار نظام میں داخل ہوتا ہے۔
تعصب کوئی واحد ناکامی نہیں ہے جسے ایک بار آزمایا جائے۔ یہ لائف سائیکل میں قابل شناخت پوائنٹس پر داخل ہوتا ہے، اور ہر نقطہ غفلت کے مختلف الزام پر نقش ہوتا ہے۔
- تربیت کا ڈیٹا۔ تاریخی فیصلے تاریخی نمونوں کے حامل ہوتے ہیں۔ ان پر تربیت یافتہ ماڈل ان نمونوں کو درست کرنے کے مسئلے کے بجائے معیار کے طور پر سیکھتا ہے۔
- متغیرات کا انتخاب۔ ایک خصوصیت جو غیر جانبدار نظر آتی ہے ایک محفوظ خصوصیت کے ساتھ قریبی تعلق رکھ سکتی ہے۔ نسل کے لیے پوسٹ کوڈ نصابی کتاب کی مثال ہے، اور یہ بالواسطہ امتیاز پیدا کرتا ہے یہاں تک کہ جہاں محفوظ شدہ خصوصیت خود کبھی ریکارڈ نہیں کی گئی تھی۔
- آؤٹ پٹ کا استعمال کرنے کا طریقہ۔ ایک ماڈل جو گروپوں میں غیر مساوی طور پر کارکردگی کا مظاہرہ کرتا ہے ایک تحقیقی ٹول کے طور پر قابل دفاع اور درخواست کو مسترد کرنے کی واحد بنیاد کے طور پر ناقابل دفاع ہو سکتا ہے۔ ایک ہی سکور، مختلف طریقے سے استعمال کیا جاتا ہے، ایک مختلف قانونی نتیجہ پیدا کرتا ہے۔
- نگرانی کی عدم موجودگی۔ ایک ایسا نظام جو لانچ کے وقت متوازن تھا جیسے ہی اس کے ارد گرد ڈیٹا تبدیل ہوتا ہے۔ دیکھنے میں ناکامی خود بہت سے دعووں میں غفلت کا کام ہے۔
فرق جو قانونی طور پر اہمیت رکھتا ہے وہ براہ راست امتیازی سلوک کے درمیان ہے، جہاں ایک محفوظ زمین کھلے عام استعمال کی جاتی ہے، اور بالواسطہ امتیاز، جہاں ایک غیر جانبدار معیار ایک محفوظ گروہ کو نقصان پہنچاتا ہے۔ بالواسطہ امتیاز کو جائز قرار دیا جا سکتا ہے اگر مقصد جائز ہو اور ذرائع مناسب اور ضروری ہوں، لیکن اس جواز کا ثبوت ہونا ضروری ہے، اور ایسی تنظیم جو اس بات کی وضاحت نہیں کر سکتی کہ اس کا ماڈل دیئے گئے متغیر کو کیوں استعمال کرتا ہے وہاں نہیں پہنچ پائے گا۔
ڈچ فاؤنڈیشن: تشدد کا قانون اور مساوی سلوک کا قانون
ڈچ قانون کے دو ادارے زیادہ تر کام تعصب کے دعوے میں کرتے ہیں، اور وہ مختلف سوالات کے جوابات دیتے ہیں۔ ٹارٹ قانون پوچھتا ہے کہ کیا تنظیم نے لاپرواہی سے کام کیا اور نقصان کیا ہے۔ مساوی سلوک کا قانون پوچھتا ہے کہ کیا نتیجہ امتیازی تھا، اور یہ ثبوت کے بوجھ کے ساتھ ایسا کرتا ہے جو جان بوجھ کر دعویدار کے موافق ہے۔
لاپرواہی سے تعیناتی ایک غیر قانونی عمل ہے۔
ڈچ سول کوڈ کا آرٹیکل 6:162 کسی شخص کو کسی ایسے غیر قانونی عمل (onrechtmatige daad) کے لیے ذمہ دار بناتا ہے جو ان سے منسوب کیا جا سکتا ہے اور اس سے نقصان ہوتا ہے۔ ایک خودکار نظام کو تعینات کرنا جس کی تنظیم نے جانچ، تصدیق یا نگرانی نہیں کی، امتیازی نتائج کے علاوہ، اپنے طور پر غیر قانونی طرز عمل ہونے کے قابل ہے۔ دعویدار کو عمل، انتساب، نقصان اور ان کے درمیان کازل لنک دکھانا چاہیے۔ لاگو معیار وہی ہے جو ایک ہی پوزیشن میں ایک محتاط تنظیم کو کرنا چاہئے تھا۔
جہاں یہ نظام کسی سپلائر کی طرف سے آیا ہے، وہاں تعیناتی کرنے والی تنظیم اس ڈیوٹی سے فارغ نہیں ہوتی۔ اس میں عیب دار کارکردگی کے لیے سول کوڈ کے آرٹیکل 6:74 کے تحت وینڈر کے خلاف معاہدہ کا دعویٰ ہو سکتا ہے، لیکن یہ دو تجارتی فریقوں کے درمیان ایک الگ کارروائی ہے۔ یہ درخواست دہندہ کے دعوے کا جواب نہیں دیتا جسے مسترد کر دیا گیا تھا۔
مساوی سلوک کا قانون اور ثبوت کا بدلا ہوا بوجھ
Algemene wet gelijke behandeling اور اس کے ساتھ سیکٹر کے قوانین، بشمول عمر کی تفریق ایکٹ (WGBL) اور ایکٹ آن ڈس ایبلٹی اینڈ دائمی بیماری (WGBH/CZ)، محفوظ بنیادوں پر بالواسطہ اور بالواسطہ امتیاز کی ممانعت کرتے ہیں۔ ملازمت میں، سول کوڈ کا آرٹیکل 7:646 صنفی دفعات کو شامل کرتا ہے۔
طریقہ کار وہ ہے جو زیادہ تر مقدمات کا فیصلہ کرتا ہے۔ ایک بار جب دعویٰ کرنے والے حقائق کو سامنے رکھتا ہے جو امتیازی سلوک کو جنم دیتے ہیں، بوجھ بدل جاتا ہے: تنظیم کو پھر یہ ثابت کرنا ہوگا کہ اس نے ممانعت کی خلاف ورزی نہیں کی۔ ایک تنظیم جو یہ نہیں دکھا سکتی ہے کہ اس کے ماڈل کا وزن کیا ہے، کس ڈیٹا پر، اور کس جانچ کے ساتھ، اس بوجھ کو ختم کرنے کا کوئی طریقہ نہیں ہے۔ یہ وہ نقطہ ہے جس پر ناقص دستاویزات گھر کی دیکھ بھال کا اندرونی مسئلہ بن کر رک جاتی ہیں اور دعویٰ کھو جانے کی وجہ بن جاتی ہے۔
شکایات نیدرلینڈز انسٹی ٹیوٹ فار ہیومن رائٹس کے سامنے بھی لائی جا سکتی ہیں، جن کی آراء پابند نہیں ہیں لیکن ان کی بڑے پیمانے پر پیروی کی جاتی ہے اور بعد میں دیوانی کارروائیوں میں اکثر ثبوت کے طور پر استعمال کیا جاتا ہے۔
جی ڈی پی آر کو خودکار فیصلوں کی کیا ضرورت ہے۔
GDPR ڈیٹا کے تحفظ کی طرف سے انہی سسٹمز کو کنٹرول کرتا ہے۔ آرٹیکل 22 کسی شخص کو یہ حق دیتا ہے کہ وہ مکمل طور پر خودکار پروسیسنگ پر مبنی فیصلے کے تابع نہ ہو، بشمول پروفائلنگ، جہاں یہ فیصلہ قانونی اثرات پیدا کرتا ہے یا اسی طرح نمایاں طور پر ان پر اثر انداز ہوتا ہے۔ بھرتی، کریڈٹ اور فوائد کے فیصلے عام طور پر اس تفصیل میں آتے ہیں۔
وہ لفظ جو وزن رکھتا ہے ۔ انسانی شمولیت صرف آرٹیکل 22 کے باہر کوئی فیصلہ لیتی ہے اگر یہ بامعنی ہو: ایک ایسا شخص جس کے پاس اختیار ہو اور معلومات کسی مختلف نتیجے پر پہنچ سکے، نہ کہ کوئی ایسا آپریٹر جو کہ اسکرین سے ظاہر ہونے والی ہر چیز کی تصدیق کرے۔ ربڑ سٹیمپنگ کو خودکار فیصلہ سازی سمجھا جاتا ہے۔
آرٹیکل 22 سے قطع نظر دو مزید ذمہ داریاں لاگو ہوتی ہیں۔ آرٹیکل 5(1)(a) میں منصفانہ اصول ایک آزادانہ تقاضہ ہے جس کی تعریف کے مطابق امتیازی ماڈل کی خلاف ورزی ہوتی ہے، اور آرٹیکل 35 پروسیسنگ سے پہلے ڈیٹا کے تحفظ کے اثرات کی تشخیص کی ضرورت ہوتی ہے جس کے نتیجے میں افراد کو زیادہ خطرہ لاحق ہوتا ہے، جو عام طور پر درخواست دہندگان یا صارفین کی منظم پروفائلنگ ہے۔ ان دفعات کی خلاف ورزی پر زیادہ سے زیادہ جرمانہ GDPR کے آرٹیکل 83(5) کے ذریعے بیس ملین یورو یا دنیا بھر کے سالانہ کاروبار کے چار فیصد سے زیادہ مقرر کیا گیا ہے۔
ڈیٹا پرائیویسی کا ہمارا جائزہ ، GDPR، AI اور بڑا ڈیٹا یہ بتاتا ہے کہ یہ فرائض کس طرح بڑے پیمانے پر ڈیٹا کے استعمال کے ساتھ مزید تفصیل سے تعامل کرتے ہیں۔
اے آئی ایکٹ کو پہلے سے کیا ضرورت ہے اور بعد میں کیا شروع ہوتا ہے۔
ریگولیشن (EU) 2024/1689، AI ایکٹ، اب کوئی تجویز نہیں ہے۔ یہ 1 اگست 2024 کو نافذ ہوا اور مراحل میں لاگو ہوتا ہے۔ 2 فروری 2025 سے آرٹیکل 5 میں پابندیاں لاگو ہوتی ہیں، آرٹیکل 4 میں ڈیوٹی کے ساتھ اس بات کو یقینی بنانا کہ AI سسٹمز کے ساتھ کام کرنے والے عملے کے پاس AI خواندگی کی مناسب سطح ہو۔ عمومی مقصد کے AI ماڈلز کی ذمہ داریاں 2 اگست 2025 سے لاگو ہو چکی ہیں، جیسا کہ گورننس اور جرمانے کی دفعات ہیں۔
ہائی رسک رجیم وہ حصہ ہے جو سب سے زیادہ براہ راست تعصب سے متعلق ہے، اور یہ وہ حصہ بھی ہے جسے ملتوی کر دیا گیا ہے۔ ضمیمہ III میں درج AI سسٹمز، جس میں بھرتی اور انتخاب، پروموشن اور برطرفی کے فیصلوں، کریڈٹ کی اہلیت کا جائزہ لینے اور انشورنس میں خطرے کی تشخیص کے لیے استعمال کیے جانے والے نظام شامل ہیں، اب 2 دسمبر 2027 کو ہائی رسک ذمہ داریوں کے تابع ہو جاتے ہیں۔ ہائی رسک سسٹمز جو کہ ریگولیٹڈ پروڈکٹس کے حفاظتی اجزاء ہیں اگست 2020202 کے تحت ان کی پیروی کرتے ہیں۔
جب یہ ذمہ داریاں کاٹتی ہیں، تو وہ زیادہ تر احتیاطی مشقوں میں پہلے سے شامل ہوتے ہیں: ڈیٹا گورننس جس کا مقصد نمائندہ اور غلطی سے جانچے گئے ڈیٹا سیٹس، تکنیکی دستاویزات، خودکار لاگنگ، متاثرہ لوگوں کے لیے شفافیت، نظام کو بند کرنے کے بجائے انسانی نگرانی کے لیے ڈیزائن کیا گیا، اور نظام کو مارکیٹ یا سروس میں ڈالنے سے پہلے ایک مطابقت کا جائزہ۔ تعینات کرنے والے، نہ صرف فراہم کرنے والے، اپنے فرائض انجام دیتے ہیں، بشمول لاگ رکھنا اور قابل لوگوں کو نگرانی تفویض کرنا۔
دو نکات باقاعدگی سے غلط بیان کیے جاتے ہیں۔ جرمانے کی حدیں یکساں کے بجائے درج کی گئی ہیں: پینتیس ملین یورو تک یا دنیا بھر میں ہونے والے کاروبار کا سات فیصد آرٹیکل 5 میں ممنوعہ طریقوں کی خلاف ورزی پر لاگو ہوتا ہے، جب کہ زیادہ خطرے والی ذمہ داریوں کی تعمیل نہ کرنے پر پندرہ ملین یورو یا تین فیصد کی کم حد ہوتی ہے۔ اور مجوزہ AI ذمہ داری کی ہدایت، جس سے EU بھر میں AI سسٹمز سے نقصان پہنچانے والے لوگوں کے ثبوت کے بوجھ کو کم کیا جائے گا، واپس لے لیا گیا ہے۔ AI کو پہنچنے والے نقصان کے لیے کوئی ہم آہنگ یورپی ذمہ داری کا نظام نہیں ہے۔ ہالینڈ میں دعویٰ ڈچ قانون کے تحت ایک دعویٰ ہے۔
قومی نفاذ اب بھی تعمیر کیا جا رہا ہے. نیدرلینڈز نے ابھی تک نافذ کرنے والے ایکٹ کو مکمل نہیں کیا ہے جو اس کے بازار کی نگرانی کے حکام کو ضابطے کے تحت نامزد کرتا ہے، حالانکہ ڈچ ڈیٹا پروٹیکشن اتھارٹی اور ڈچ اتھارٹی برائے ڈیجیٹل انفراسٹرکچر نے تیاری کے کام میں مربوط کردار ادا کیے ہیں۔ ہم مصنوعی ذہانت کے قانونی پہلو اور EU AI ایکٹ کے بارے میں اپنی گائیڈ میں مزید گہرائی میں فریم ورک پر تبادلہ خیال کرتے ہیں ۔
تینوں فریم ورک کا موازنہ کیسے ہوتا ہے۔
| فریم ورک | سوال یہ پوچھتا ہے۔ | ذمہ داری کی بنیاد | نتیجہ |
|---|---|---|---|
| ڈچ تشدد کا قانون (آرٹ 6:162 بی ڈبلیو) | کیا تنظیم نے لاپرواہی سے کام لیا اور کیا اس سے نقصان ہوا؟ | نظام کی لاپرواہی سے انتخاب، تعیناتی یا نگرانی | ہونے والے نقصان کا معاوضہ، فی دعویدار کا تخمینہ |
| مساوی سلوک کی قانون سازی۔ | کیا نتیجہ ایک ممنوعہ امتیاز تھا؟ | کسی محفوظ زمین پر براہ راست یا بالواسطہ امتیاز، بوجھ تنظیم پر منتقل ہونے کے ساتھ | فیصلے کی منسوخی، نقصانات، نیدرلینڈز انسٹی ٹیوٹ برائے انسانی حقوق کی رائے |
| GDPR | کیا پروسیسنگ منصفانہ، شفاف اور قانونی طور پر خودکار تھی؟ | آرٹیکل 5(1)(a)، آرٹیکل 22 یا آرٹیکل 35 کی خلاف ورزی | Autoriteit Personsgegevens کی طرف سے نفاذ؛ آرٹیکل 83(5) میں حد تک جرمانے |
| اے آئی ایکٹ | کیا نظام اپنی رسک کلاس کی ضروریات کو پورا کرتا ہے؟ | ممنوعات کے ساتھ عدم تعمیل، یا ایک بار لاگو ہونے کے بعد اعلی خطرے والی حکومت کے ساتھ | انتظامی جرمانے، اصلاحی اقدامات، نظام کو مارکیٹ سے نکالنا |
فریم ورک مقابلہ کرنے کے بجائے اوورلیپ ہوتے ہیں۔ ایک مسترد شدہ درخواست ایک دیوانی دعوی، انسٹی ٹیوٹ کو شکایت، ایک ریگولیٹری تحقیقات اور، مناسب وقت میں، حقائق کے ایک ہی سیٹ پر، AI ایکٹ کی تعمیل میں ناکامی پیش کر سکتی ہے۔
ڈچ مقدمات نے کیا قائم کیا ہے
دو اقساط یہ شکل دیتے ہیں کہ کس طرح ڈچ عدالتیں اور ریگولیٹرز خودکار فیصلوں سے رجوع کرتے ہیں، اور دونوں ایک ہی ناکامی کے بارے میں ہیں: ایک مبہم نظام ان لوگوں پر لاگو ہوتا ہے جو یہ نہیں دیکھ سکتے کہ یہ کیسے کام کرتا ہے۔
فروری 2020 میں ہیگ کی ضلعی عدالت نے SyRI کو روک دیا، خطرے کی نشاندہی کرنے والا نظام جس کے ساتھ عوامی اداروں نے فائدہ اور ٹیکس فراڈ کا پتہ لگانے کے لیے مختلف ذرائع سے ڈیٹا کو یکجا کیا۔ عدالت نے کہا کہ اس نظام کی بنیاد رکھنے والی قانون سازی انسانی حقوق کے یورپی کنونشن کے آرٹیکل 8 کے تحت منصفانہ توازن کے امتحان میں ناکام رہی۔ جو چیز مہلک تھی وہ ڈیٹا کے تجزیے کا استعمال نہیں تھا بلکہ شفافیت اور تصدیق کی عدم موجودگی تھی: نہ تو رسک ماڈل اور نہ ہی اشارے ظاہر کیے گئے، اس لیے نہ تو متاثرہ شہری اور نہ ہی عدالت امتیازی اثر کی جانچ کر سکی۔ نجی تنظیموں کے لیے سبق یہ ہے کہ جس نظام کی کوئی وضاحت نہیں کر سکتا اس کا دفاع نہیں کیا جا سکتا، کیونکہ اسے چلانے والی جماعت اس کے جواز کا بوجھ اٹھاتی ہے۔
چائلڈ کیئر بینیفٹس اسکینڈل (toeslagenaffair) نے اپنے نتائج کے ذریعے یہی بات کی ہے۔ ٹیکس انتظامیہ نے خودکار رسک سلیکشن کا استعمال کیا جس نے دوہری شہریت جیسے اشارے کو دھوکہ دہی کے اشارے کے طور پر سمجھا، اور دسیوں ہزار والدین کو غلط طور پر لیبل لگایا گیا اور ادائیگی کے لیے پیچھا کیا گیا۔ ڈچ ڈیٹا پروٹیکشن اتھارٹی نے بنیادی پروسیسنگ کو غیر قانونی اور امتیازی پایا اور نافذ کرنے والی کارروائی کو نافذ کیا۔ اس نے اس اصول کی بھی تصدیق کی جو یہاں سب سے زیادہ اہمیت رکھتا ہے: اس دفاع میں جو نظام نے نتیجہ پیدا کیا اس میں کوئی وزن نہیں ہے، کیونکہ نظام کو چلانے کا انتخاب خود ہی فیصلہ کیا جا رہا ہے۔
جہاں عام کاروباری استعمال میں ذمہ داری پیدا ہوتی ہے۔
زیادہ تر نمائش کبھی بھی تاریخی فیصلے تک نہیں پہنچتی ہے۔ یہ واقف آپریشنل فیصلوں میں پیدا ہوتا ہے۔
تنظیم کی اپنی ملازمت کی تاریخ پر تربیت یافتہ ایک بھرتی فلٹر اس تاریخ میں جو بھی ترجیح ہے اسے سیکھے گا اور اسے ہر آنے والے درخواست دہندگان پر لاگو کرے گا۔ چونکہ بھرتی کے ٹولز AI ایکٹ کے ضمیمہ III میں مکمل طور پر بیٹھتے ہیں اور ایک ہی وقت میں GDPR کے آرٹیکل 22 کو چھوتے ہیں، وہ ایک ہی وقت میں تینوں فریم ورک کو اپنی طرف متوجہ کرتے ہیں۔ ایک کریڈٹ یا انشورنس ماڈل جو پوسٹ کوڈ، روزگار کی تاریخ کا فرق یا اسی طرح کے کردار کا پراکسی استعمال کرتا ہے بالواسطہ امتیاز پیدا کر سکتا ہے یہاں تک کہ ڈیٹا سیٹ میں کوئی خاص خصوصیت بالکل بھی نہیں ہے۔ افرادی قوت کے انتظام کا نظام جو شفٹوں کو مختص کرتا ہے، کارکردگی کی نگرانی کرتا ہے یا برطرفی کے فیصلوں میں فیڈ کرتا ہے، اسی زمرے میں آتا ہے، اس اضافی پیچیدگی کے ساتھ کہ ورکس کونسل کو ایسا نظام متعارف کرانے سے پہلے ورکس کونسلز ایکٹ کے تحت رضامندی کا حق حاصل ہو سکتا ہے۔
ہر معاملے میں ڈچ عدالت جو سوال پوچھتی ہے وہی ہے۔ تنظیم کو اس بارے میں کیا معلوم تھا کہ نظام کس طرح برتاؤ کرتا ہے، اس نے یہ جاننے کے لیے کیا کیا، اور جب پیٹرن ظاہر ہو گیا تو اس نے کیا کیا؟
وینڈر اور تعینات کرنے والا: کون کس چیز کا جواب دیتا ہے۔
سسٹم خریدنا اس کے ساتھ خطرہ منتقل نہیں کرتا ہے۔ AI ایکٹ کے تحت فراہم کنندہ اور تعینات کرنے والے کے الگ الگ فرائض ہوتے ہیں، اور ڈچ سول قانون کے تحت اس شخص کو نقصان پہنچایا جاتا ہے جس نے بھی اس فیصلے کو متاثر کیا جس نے انہیں متاثر کیا، جو کہ تقریباً ہمیشہ تعیناتی کرنے والی تنظیم ہوتی ہے۔
معاہدے جو کچھ کر سکتے ہیں وہ ہے مالی نتائج مختص کرنا اور دعوے کے دفاع کے لیے درکار معلومات کو محفوظ کرنا۔ ایک پروکیورمنٹ ایگریمنٹ جس کی کارکردگی اور منصفانہ میٹرکس کا ہونا ضروری ہے اس نظام کو پورا کرنے کی ضمانت دیتا ہے، دستاویزات، ٹیسٹ کے نتائج اور لاگز تک رسائی کی ضمانت دیتا ہے، آڈٹ کا حق دیتا ہے، سپلائر سے ماڈل میں مادی تبدیلیوں کو مطلع کرنے کا تقاضا کرتا ہے، اور یہ طے کرتا ہے کہ اگر کوئی دعویٰ سامنے آتا ہے تو کس طرح ذمہ داری اور دفاعی اخراجات کا اشتراک کیا جاتا ہے۔ جو معاہدہ نہیں کر سکتا وہ ہے ریگولیٹری جرمانہ یا قانونی ڈیوٹی ہٹانا۔ مصنوعی ذہانت سے ہونے والی غلطیوں کا ذمہ دار کون ہے اس بارے میں ہمارا مضمون مزید تفصیل سے مختص کے ذریعے کام کرتا ہے۔
دعوی کے پہنچنے سے پہلے خطرے کو کنٹرول کرنا
تعصب کے دعوے میں دفاعی پوزیشن دعوے سے بہت پہلے بنائی جاتی ہے، اور یہ تقریباً مکمل طور پر ریکارڈ پر مشتمل ہوتی ہے۔ چونکہ امتیاز کا قیاس قائم ہونے کے بعد ثبوت کا بوجھ بدل جاتا ہے، اس لیے وہ تنظیم جو یہ دکھا سکتی ہے کہ اس نے کیا تجربہ کیا، کب، اور اس نے نتیجہ کے ساتھ کیا کیا وہ اس سے بنیادی طور پر مختلف پوزیشن میں ہے جو نہیں کر سکتا۔
ایک قابل عمل پروگرام میں چار عناصر ہوتے ہیں۔ تعیناتی سے پہلے جانچ کریں، قانون کی طرف سے تحفظ فراہم کرنے والے گروپوں میں نتائج کی شرحوں کا موازنہ کریں اور تربیتی ڈیٹا اور پراکسیز کے لیے منتخب کردہ متغیرات کی جانچ کریں۔ تعیناتی کے بعد جانچ کرتے رہیں، کیونکہ ایک ماڈل جو لانچ کے وقت متوازن تھا وہ اس طرح نہیں رہے گا۔ کسی ایک نامزد شخص یا کمیٹی کو نتائج پر نظرثانی کرنے اور نظام کو معطل کرنے کا اختیار دیں، تاکہ اسے چلانے کا فیصلہ طے شدہ فیصلہ کے بجائے کسی نے کیا ہو۔ اور ڈیٹا کے ذرائع، توثیق، آڈٹ کے نتائج اور اصلاحی اقدامات سمیت اس سب کو اس شکل میں ریکارڈ کریں جسے کسی ریگولیٹر کے حوالے کیا جا سکتا ہے یا کارروائی میں پیش کیا جا سکتا ہے۔
اس کے ساتھ ساتھ، انسانی فیصلے کو حقیقی طور پر انسانی رکھیں جہاں آرٹیکل 22 کا اطلاق ہوتا ہے، ڈیٹا کے تحفظ کے اثرات کا جائزہ مکمل کریں اس سے پہلے کہ سسٹم لائیو ہو جائے نہ کہ بعد میں، چیک کریں کہ ورکس کونسل کا کوئی کردار ہے یا نہیں، اور کسی متاثرہ شخص کو صاف زبان میں بتانے کے قابل ہوں کہ فیصلہ اس طرح کیوں ہوا۔ ان میں سے کوئی بھی اقدام غیر معمولی نہیں ہے، اور AI ایکٹ ہائی رسک نظام ان میں سے بیشتر کو کسی بھی صورت میں دسمبر 2027 سے بھرتی، کریڈٹ اور انشورنس سسٹمز کے لیے لازمی کر دے گا۔ وہ تنظیمیں جو اب ان کو بناتی ہیں بس جلدی پہنچ رہی ہیں۔
اگر کسی فیصلے کو چیلنج کیا جائے تو کیا کریں۔
جب ایک درخواست دہندہ، ایک گاہک یا ملازم کسی خودکار فیصلے پر سوال کرتا ہے، تو پہلا کام حقائق پر مبنی ہوتا ہے: اس بات کا تعین کریں کہ سسٹم نے اس معاملے میں اصل میں کیا کیا، اس نے کون سا ان پٹ استعمال کیا، آیا کسی شخص نے حقیقی فیصلے کا استعمال کیا، اور آیا نتیجہ وسیع تر پیٹرن کے مطابق ہے۔ جواب دینے سے پہلے ایسا کریں، کیونکہ پہلے غلط جواب کو بعد میں درست کرنا مشکل ہے اور اسے تنظیم کے خلاف پڑھا جائے گا۔
لاگز اور اس میں شامل ماڈل ورژن کو محفوظ کریں۔ تینوں فریم ورک کے خلاف دعوے کا اندازہ لگائیں بجائے اس کے کہ شکایت کنندہ نے کیا تھا، کیونکہ ڈیٹا پروٹیکشن کی شکایت اور امتیازی دعویٰ ایک ہی فائل سے ہو سکتا ہے۔ اگر پیٹرن حقیقی ہے، تو اسے درست کرنا اور متاثرہ فیصلوں کا تدارک نقصان کو دفاع کرنے سے کہیں زیادہ مؤثر طریقے سے محدود کر دیتا ہے۔
Law & More کمپنیوں کو خودکار فیصلہ سازی کے قانونی پہلو پر مشورہ دیتا ہے: ڈچ ٹارٹ اور مساوی سلوک کے قانون کے تحت نمائش کا اندازہ لگانا، پروفائلنگ اور خودکار فیصلوں کے لیے GDPR کی تعمیل کا جائزہ لینا، بھرتی، کریڈٹ اور انشورنس سسٹمز پر لاگو ہونے والے AI ایکٹ کی ذمہ داریوں کی تیاری، وینڈر کے معاہدوں پر گفت و شنید کرنا، اور دعووں اور ریگولیٹری تحقیقات کا دفاع کرنا۔ ہماری آئی ٹی وکلاء آپ جو سسٹم استعمال کرتے ہیں ان پر قواعد کس طرح لاگو ہوتے ہیں اس پر بحث کرنے میں خوش ہوں۔
الگورتھمک تعصب کی ذمہ داری کے بارے میں اکثر پوچھے جانے والے سوالات
جیسے جیسے کاروبار AI کی گہرائی میں جاتے ہیں، بہت سے رہنما خود کو ذمہ داری کے بارے میں بہت مخصوص سوالات کرتے ہوئے پاتے ہیں۔ ذیل میں، ہم اس پیچیدہ قانونی علاقے میں تشریف لے جانے میں آپ کی مدد کرنے کے لیے واضح جوابات پیش کرتے ہوئے کچھ سب سے عام اور چیلنجنگ سوالات سے نمٹتے ہیں۔
اگر ہمارا فریق ثالث AI متعصب ہے، تو کون ذمہ دار ہے—وینڈر یا ہم؟
یہ شاذ و نادر ہی ایک آسان سوال ہے، اور اس کا جواب تقریباً ہمیشہ ہی ہوتا ہے: یہ پیچیدہ ہے۔ ذمہ داری اکثر مشترکہ ہوتی ہے اور صورتحال کی تفصیلات پر بہت زیادہ انحصار کرتی ہے۔ AI ڈویلپر کو ناقص یا غیر تعمیل شدہ مصنوعات کی فراہمی کے لیے ذمہ دار ٹھہرایا جا سکتا ہے۔ تاہم، نظام کو استعمال کرنے والی تنظیم کے طور پر، آپ کے اپنے الگ الگ قانونی فرائض ہیں۔
EU AI ایکٹ اور GDPR جیسے فریم ورک کے تحت، آپ کی کمپنی اس بات کی ذمہ دار ہے کہ AI کو کیسے لاگو کیا جاتا ہے اور اس کی نگرانی کی جاتی ہے۔ اس کا مطلب ہے کہ آپ کا فرض ہے کہ آپ جو ٹیکنالوجی خریدتے ہیں اس کی جانچ کریں، متعصب نتائج کی نگرانی کریں، اور اس بات کو یقینی بنائیں کہ اس کا اطلاق بنیادی طور پر منصفانہ ہے۔
ایک اچھی طرح سے تیار کردہ معاہدہ آپ اور وینڈر کے درمیان مالی خطرہ مختص کرنے میں مدد کر سکتا ہے، لیکن یہ آپ کی کمپنی کو ریگولیٹری جرمانے یا دیوانی دعوے سے نہیں بچائے گا اگر آپ اس میں لاپرواہی کا مظاہرہ کرتے ہیں کہ آپ نے سسٹم کو کیسے تعینات کیا اور اس کی نگرانی کی۔
ہم عدالت میں کیسے ثابت کریں کہ ہمارا الگورتھم امتیازی نہیں ہے؟
آپ کا بہترین دفاع فعال اور مکمل دستاویزات پر بنایا گیا ہے۔ آپ کو پیچیدہ ریکارڈ رکھنے کی ضرورت ہے جو AI ماڈل کے پورے لائف سائیکل کا احاطہ کرتے ہیں۔ یہ ایسی چیز نہیں ہے جسے آپ قانونی چیلنج کے پیدا ہونے کے بعد جمع کر سکتے ہیں۔
آپ کی دستاویزات ایک زندہ ریکارڈ ہونا چاہئے جس میں شامل ہیں:
ڈیٹا سورسنگ: آپ کا تربیتی ڈیٹا کہاں سے آیا اس کے تفصیلی لاگ، نیز اس کو صاف کرنے اور موروثی تعصبات کی جانچ کرنے کے لیے آپ نے جو اقدامات کیے ہیں۔
ماڈل کی توثیق: امتیازی نمونوں کو تلاش کرنے اور درست کرنے کے لیے تعیناتی سے پہلے آپ نے جو سخت جانچ کی تھی اس کا سخت ثبوت۔
باقاعدہ تعصب آڈٹ: اس بات کا ثبوت کہ آپ وقت کے ساتھ ساتھ کسی بھی تعصب کو پکڑنے اور درست کرنے کے لیے سسٹم کی مسلسل نگرانی کر رہے ہیں۔
فیصلہ سازی کی منطق: واضح، قابل فہم وضاحتیں کہ نظام اپنے نتائج تک کیسے پہنچتا ہے، خاص طور پر اعلیٰ فیصلوں کے لیے۔
EU AI ایکٹ کے تحت کسی بھی اعلی خطرے والے AI سسٹم کے لیے، تکنیکی دستاویزات کی یہ سطح صرف اچھی مشق نہیں ہے۔ یہ ایک لازمی قانونی ضرورت ہے۔ ثبوت کا یہ حصہ وہی ہے جس پر آپ مستعدی کا مظاہرہ کرنے اور غفلت کے دعووں کے خلاف دفاع کرنے کے لیے انحصار کریں گے۔
کیا قابل وضاحت AI (XAI) کا استعمال ہمارے ذمہ داری کے خطرے کو ختم کرتا ہے؟
نہیں، لیکن یہ اس خطرے کو سنبھالنے کا ایک لازمی حصہ ہے۔ قابل وضاحت AI (XAI) GDPR کے تحت شفافیت کی ذمہ داریوں کو پورا کرنے کے لیے ایک اہم ٹول ہے، کیونکہ یہ الگورتھم کے فیصلہ سازی کے عمل کو انسانوں کے لیے قابل فہم بنانے میں مدد کرتا ہے۔ یہ آپ کو قانونی طور پر خطرناک "بلیک باکس" کے مسئلے سے دور کرتا ہے جہاں کوئی نہیں کہہ سکتا کہ فیصلہ کیوں کیا گیا۔
تاہم، محض غیر منصفانہ نتیجہ کی وضاحت کرنا اسے منصفانہ نہیں بناتا۔ اگر کسی فیصلے کی وجہ سے پتہ چلتا ہے کہ ماڈل ایک محفوظ خصوصیت پر انحصار کرتا ہے (مثال کے طور پر، پوسٹ کوڈ کو نسل کے لیے پراکسی کے طور پر استعمال کرنا)، تو آپ اب بھی ذمہ دار ہیں۔
XAI اچھی حکمرانی کی حکمت عملی کا ایک اہم حصہ ہے، لیکن یہ مکمل حل نہیں ہے۔ تعصبات کے پائے جانے پر اسے درست کرنے اور نقصان پہنچانے والے لوگوں کے لیے حقیقی علاج فراہم کرنے کے لیے اسے مضبوط عمل کے ساتھ جوڑا جانا چاہیے۔
کیا یہ پیچیدہ AI ذمہ داری کے اصول SMEs پر لاگو ہوتے ہیں؟
ہاں، وہ کرتے ہیں۔ بنیادی قانونی اصول جیسے ڈچ ٹارٹ قانون اور انسداد امتیازی قوانین تمام کاروباروں پر لاگو ہوتے ہیں، سائز سے قطع نظر۔ اگرچہ EU AI ایکٹ میں چھوٹے اور درمیانے درجے کے کاروباری اداروں (SMEs) پر تعمیل کے بوجھ کو کم کرنے کے لیے کچھ دفعات شامل ہیں، لیکن یہ چھوٹ نہیں ہیں۔
اگر آپ کا SME اعلی خطرے والے علاقوں میں AI کا استعمال کرتا ہے — جیسے کہ بھرتی، کریڈٹ اسکورنگ، یا ملازمین کی کارکردگی کے جائزے — آپ کو بڑے کارپوریشنز کی طرح ہی سخت تعمیل کے فرائض کا سامنا کرنا پڑے گا۔ جی ڈی پی آر بھی پورے بورڈ پر لاگو ہوتا ہے۔ ایک ایس ایم ای کے لیے، ان خطرات کو نظر انداز کرنا غیر متناسب طور پر نقصان دہ جرمانے اور قانونی چارہ جوئی کا باعث بن سکتا ہے، جس سے آپ کے AI ٹولز کا اندازہ لگانا اور اپنی قانونی ذمہ داریوں کو شروع سے ہی سمجھنا ضروری ہو جاتا ہے۔
At Law & More، ہم آپ کے کاروبار کو AI ضابطے اور ذمہ داری کے پیچیدہ منظر نامے پر تشریف لے جانے میں مدد کے لیے ماہر قانونی مشورہ فراہم کرتے ہیں۔ ہماری ٹیم اس بات کو یقینی بنانے کے لیے عملی، موزوں مشورے پیش کرتی ہے کہ آپ کا ٹیکنالوجی کا استعمال اختراعی اور تعمیل دونوں ہے۔ ایک فعال AI گورننس کی حکمت عملی بنانے کے لیے ہم سے رابطہ کریں جو آپ کی فرم کی حفاظت کرتی ہے۔ پر مزید جانیں۔ https://lawandmore.eu.
