AI اور فوجداری قانون: کیا الگورتھم جزوی طور پر ذمہ دار ہو سکتا ہے؟

آئیے شروع سے ہی واضح ہو جائیں: موجودہ ڈچ اور یورپی یونین کے قانون کے تحت، الگورتھم کسی جرم کے لیے مجرمانہ طور پر ذمہ دار نہیں پایا جا سکتا۔ یہ ایک نان اسٹارٹر ہے۔ بنیادی قانونی تصورات جیسے مجرمانہ ارادے (مینز ری) اور قانونی شخصیت انسانوں اور بعض حالات میں کارپوریشنز کے لیے مخصوص ہیں۔

تاہم، یہ آسان جواب صرف ایک بہت زیادہ پیچیدہ گفتگو کا آغاز ہے۔ الگورتھم کے اعمال ان لوگوں کے جرم یا بے گناہی کو ثابت کرنے کے لیے بالکل مرکزی ہوتے جا رہے ہیں جو انھیں تخلیق کرتے ہیں، تعینات کرتے ہیں اور ان کی نگرانی کرتے ہیں۔

کیا الگورتھم کسی جرم کا مرتکب ہو سکتا ہے؟

جب ہم ایک مجرم میں AI کے بارے میں بات کرتے ہیں۔ قانون سیاق و سباق میں، اصل سوال یہ ہے کہ کیا الگورتھم مدعا علیہ کی کرسی پر ختم ہو سکتا ہے۔ قانونی طور پر، جواب آج ایک فرم نمبر ہے. اس سے کوئی فرق نہیں پڑتا ہے کہ یہ کتنا ہی نفیس ہے، ایک الگورتھم میں صرف ان بنیادی خصلتوں کا فقدان ہوتا ہے جو آزمائش میں کھڑے ہونے کے لیے درکار ہوتے ہیں۔ اس کے پاس کوئی شعور نہیں ہے، نہ ذاتی اثاثوں پر قبضہ کرنا ہے اور نہ ہی چھیننے کی آزادی ہے۔

یہ قانونی حقیقت اسپاٹ لائٹ کو ٹول سے صارف کی طرف منتقل کرنے پر مجبور کرتی ہے۔ ایک اعلیٰ درجے کے AI سسٹم کو ایک انتہائی پیچیدہ لیکن بالآخر بے جان آلہ کے طور پر سوچنا مددگار ہے — نہ کہ خود چلانے والی کار یا خودکار فیکٹری مشین کے برعکس۔ اگر مشین نقصان کا باعث بنتی ہے، قانون مشین پر مقدمہ نہیں چلائے گا۔ یہ اس کے پیچھے انسانوں کی تحقیقات کرتا ہے۔

قانونی شخصیت اور ارادے کی رکاوٹیں

فوجداری قانون دو ستونوں پر بنایا گیا ہے جنہیں AI محض مطمئن نہیں کر سکتا: قانونی شخصیت اور مجرمانہ ارادہ۔ کسی بھی ادارے کے لیے قانونی چارہ جوئی کا سامنا کرنے کے لیے، قانون کو اسے ایک "شخص" کے طور پر تسلیم کرنا چاہیے، جس کا مطلب ہے یا تو ایک فطری شخص (انسان) یا قانونی شخص (جیسے کمپنی)۔ اے آئی سسٹمز کسی بھی زمرے میں فٹ نہیں ہوتے ہیں۔

اس سے بھی زیادہ تنقیدی طور پر، زیادہ تر سنگین جرائم کے لیے ثبوت کی ضرورت ہوتی ہے۔ مینز ری- ایک "مجرم ذہن۔" یہ اس بات کو ثابت کرنے کے بارے میں ہے کہ مدعا علیہ نے ایک مخصوص ذہنی حالت کے ساتھ کام کیا، چاہے وہ نیت، علم یا لاپرواہی تھی۔ ایک الگورتھم کوڈ اور ڈیٹا پر چلتا ہے۔ یہ ارادے نہیں بناتا اور نہ ہی اس کے اعمال کی اخلاقی غلطی کو سمجھتا ہے۔

مرکزی مشکل نظام کی آزادانہ طور پر انتخاب اور عمل کرنے کی صلاحیت سے پیدا ہوتی ہے، اس طرح انسانی ارادے اور اس کے نتیجے میں ہونے والے نقصان کے درمیان ایک غیر انسانی ایجنٹ داخل ہوتا ہے۔ اس سے فوجداری قانون میں ذمہ داری کو منسوب کرنے کے روایتی ماڈل میں خلل پڑتا ہے۔

سیدھی بات تک پہنچنے کے لیے، قانون کو صدیوں پرانے قانونی اصولوں کو خود مختار ٹیکنالوجی پر لاگو کرنے میں کچھ اہم رکاوٹوں کا سامنا ہے۔ نیچے دی گئی جدول بنیادی مسئلے کا خلاصہ کرتی ہے۔

الگورتھمک مجرمانہ ذمہ داری کی موجودہ حیثیت

قانونی تصور	انسانوں کے لیے درخواست	اے آئی سسٹمز کے لیے درخواست
قانونی شخصیت	انسان قانون کے تحت حقوق اور فرائض کے ساتھ "فطری افراد" ہیں۔ کارپوریشنز "قانونی افراد" ہو سکتی ہیں۔	اے آئی سسٹم کو پراپرٹی یا ٹول سمجھا جاتا ہے۔ اس کی کوئی آزاد قانونی حیثیت نہیں ہے۔
مجرمانہ ارادہ (Mens Rea)	استغاثہ کو "مجرم ذہن" ثابت کرنا چاہیے جیسے کہ ارادہ، لاپرواہی، یا غلط کام کا علم۔	ایک الگورتھم اپنے پروگرامنگ اور ڈیٹا ان پٹ کی بنیاد پر کام کرتا ہے۔ اس میں شعور، عقائد یا خواہشات کا فقدان ہے۔
جسمانی ایکٹ (Actus Reus)	ایک شخص نے رضاکارانہ جسمانی فعل (یا مجرمانہ غفلت) کا ارتکاب کیا ہوگا۔	ایک AI کے "اعمال" کوڈ کے آؤٹ پٹ ہیں۔ وہ انسانی معنوں میں رضاکارانہ کام نہیں ہیں۔
سزا	پابندیوں میں قید، جرمانے، یا کمیونٹی سروس شامل ہے، جس کا مقصد انتقام اور روک تھام ہے۔	AI کو قید یا جرمانہ نہیں کیا جا سکتا۔ کوڈ کو "سزا دینا" (مثال کے طور پر، اسے حذف کرنا) قانونی فریم ورک کے مطابق نہیں ہے۔

جیسا کہ آپ دیکھ سکتے ہیں، ایک بنیادی مماثلت ہے۔ فوجداری قانون کا پورا ڈھانچہ انسانی ایجنسی کے گرد بنایا گیا ہے، جس کی AI میں کمی ہے۔

قانونی فریم ورک کے بطور منسوب ذمہ داری

لہذا، کیونکہ الگورتھم کو مجرم نہیں پایا جا سکتا، ڈچ قانون کے تصور پر واپس آتا ہے منسوب ذمہ داری. اس کا سیدھا مطلب ہے کہ AI کے اعمال کی ذمہ داری کسی انسان یا کارپوریٹ اداکار کو تفویض کی جاتی ہے — یا منسوب کی جاتی ہے۔ اس منظر نامے میں، AI کا آؤٹ پٹ ثبوت کا ایک اہم حصہ بن جاتا ہے جو اس کے انسانی کنٹرولرز کے اعمال یا غفلت کی طرف اشارہ کرتا ہے۔

یہ نقطہ نظر انقلابی نہیں ہے۔ یہ براہ راست عکاسی کرتا ہے کہ قانون دوسرے پیچیدہ ٹولز کا استعمال کرتے ہوئے کیے جانے والے جرائم کو کیسے ہینڈل کرتا ہے۔ مثال کے طور پر، اگر کوئی کمپنی جان بوجھ کر خطرناک حد تک خراب پروڈکٹ فروخت کرتی ہے جس سے چوٹ پہنچتی ہے، تو کمپنی اور اس کے ایگزیکٹوز کو ذمہ دار ٹھہرایا جاتا ہے، نہ کہ خود پروڈکٹ۔

اس کی رہنمائی کرنے والے اصول قائم شدہ قانونی عقائد سے مطابقت رکھتے ہیں۔ قانونی پیشہ ور افراد کے لیے جو اس جگہ پر تشریف لے جاتے ہیں، موجودہ فریم ورک کی ٹھوس گرفت ضروری نقطہ آغاز ہے۔ پر ہماری تفصیلی گائیڈ نیدرلینڈ میں مجرمانہ طریقہ کار یہ ایک بہترین پرائمر پیش کرتا ہے کہ یہ کیسز تفتیش سے فیصلے تک کیسے جاتے ہیں۔ چیلنج اب شروع سے نئے قوانین ایجاد نہیں کرنا ہے، بلکہ خود مختار نظاموں کی منفرد پیچیدگیوں کے مطابق ان ثابت شدہ اصولوں کو ڈھالنا ہے۔

ڈچ قانون کس طرح AI کی سہولت والے جرائم کے لیے ذمہ دار ٹھہراتا ہے۔

چونکہ خود ایک الگورتھم کو مقدمے میں نہیں لایا جا سکتا، اس لیے ڈچ کا قانونی نظام موجودہ، انسانی توجہ پر مبنی عقائد کی طرف رجوع کرتا ہے جہاں ذمہ داری کی ذمہ داری تفویض کی جاتی ہے۔ اس کام کے لیے اہم قانونی ٹول کا نظریہ ہے۔ فنکشنل جرم (functioneel daderschap).

یہ طاقتور اصول عدالت کو اجازت دیتا ہے کہ وہ کسی شخص یا کمپنی کو مجرمانہ طور پر کسی ایسے عمل کے لیے ذمہ دار ٹھہرائے جو اس نے جسمانی طور پر انجام نہیں دیا، جب تک کہ وہ صورت حال پر مؤثر طریقے سے کنٹرول میں ہوں۔

اس کے بارے میں اس طرح سوچیں: ایک تعمیراتی فرم کا ڈائریکٹر ذاتی طور پر سائٹ پر موجود ہر کرین کو نہیں چلاتا۔ لیکن اگر وہ جان بوجھ کر کسی آپریٹر کو ناقص کرین استعمال کرنے کا حکم دیتے ہیں اور کوئی حادثہ پیش آتا ہے تو ڈائریکٹر ہک پر ہے۔ یہی منطق اس وقت لاگو ہوتی ہے جب "کرین" ایک جدید ترین AI نظام ہو۔ الگورتھم نے جو کچھ کیا اس سے توجہ ان انسانی فیصلوں کی طرف ہٹ جاتی ہے جنہوں نے اسے ہونے دیا۔

یہ AI کے ساتھ کام کرنے والے ہر فرد کے لیے ایک اہم تصور ہے، کیونکہ یہ استغاثہ کو AI کے نقصان دہ آؤٹ پٹ کو کسی شخص یا کارپوریشن سے منسلک کرنے کا براہ راست راستہ فراہم کرتا ہے۔ یہ الگورتھم کے "مشکل" کو ثابت کرنے کے ناممکن کام کو صاف ستھرا کر دیتا ہے اور اس کے بجائے اس کے انسانی آقاؤں کے ارادے اور غفلت کو صفر کر دیتا ہے۔

فنکشنل پرپریشن کے دو ٹیسٹ

ایک پراسیکیوٹر کے لیے عدالت میں کارآمد جرم کی کامیابی کے ساتھ بحث کرنے کے لیے، انہیں دو اہم ٹیسٹوں کو پورا کرنا ہوگا۔ یہ معیار وہ ستون ہیں جو اس بات کا تعین کرتے ہیں کہ آیا کسی شخص یا کمپنی کو AI کے ذریعے کیے گئے جرم کے "فعال" مصنف کے طور پر دیکھا جا سکتا ہے۔

1. کنٹرول کی طاقت (Beschikkingsmacht): کیا فرد یا کمپنی کے پاس یہ تعین کرنے کی اصل طاقت تھی کہ آیا AI کا مجرمانہ رویہ واقع ہوگا؟ یہ سب کچھ اتھارٹی اور نگرانی کے بارے میں ہے — AI کے آپریٹنگ قواعد کو ترتیب دینا، اسے بند کرنے کی صلاحیت، یا اس کے فیصلوں کی رہنمائی کرنے والے پیرامیٹرز کی وضاحت کرنا۔

2. قبولیت (آنوارڈنگ): کیا فرد یا کمپنی نے یہ خطرہ قبول کیا کہ کوئی مجرمانہ فعل ہو سکتا ہے؟ اہم طور پر، اس کے لیے براہ راست ارادے کی ضرورت نہیں ہے۔ یہ ثابت کیا جا سکتا ہے اگر وہ جانتے تھے کہ نقصان دہ نتائج کا امکان ہے لیکن انہوں نے شعوری طور پر مناسب حفاظتی اقدامات نہ کرنے کا انتخاب کیا۔

یہ دو ستون — کنٹرول اور قبولیت — اس بات کی بنیاد بناتے ہیں کہ ڈچ قانون اس سوال کا جواب کیسے دیتا ہے، "کیا الگورتھم جزوی طور پر ذمہ دار ہو سکتا ہے؟"۔ جواب واضح نہیں ہے، لیکن اس کا انسانی کنٹرولر رکھا جا سکتا ہے۔ مکمل طور پر ذمہ دار

ایک عملی منظر نامہ: خود مختار ڈرون کی چوٹ

آئیے اسے حقیقی دنیا کے منظر نامے پر لاگو کریں۔ تصور کریں کہ ایک لاجسٹک کمپنی خود مختار ڈیلیوری ڈرونز کا بیڑا تعینات کرتی ہے۔ ایک ڈرون، جس کی رہنمائی AI نیویگیشن سسٹم سے ہوتی ہے، ایک پرہجوم عوامی چوک پر خرابی پیدا کرتی ہے اور اسے شدید چوٹ پہنچتی ہے۔

کمپنی کے خلاف مقدمہ بنانے والا پراسیکیوٹر فنکشنل پرپٹیشن فریم ورک پر بہت زیادہ انحصار کرے گا:

• کنٹرول ثابت کرنا: وہ یہ ظاہر کریں گے کہ ڈرون بیڑے پر کمپنی کی مکمل کمان ہے۔ کمپنی نے ترسیل کے راستے طے کیے، سافٹ ویئر اپ ڈیٹس کا انتظام کیا، اور کسی بھی وقت ڈرون کو گراؤنڈ کرنے کے لیے "کِل سوئچ" کو تھام لیا۔

• قبولیت ثابت کرنا: ایسے شواہد سامنے آسکتے ہیں جس سے ظاہر ہوتا ہے کہ کمپنی کو معلوم تھا کہ اس کے AI میں a ہے۔ 5% گھنے شہری علاقوں میں غلطی کی شرح لیکن اخراجات میں کمی کے لیے بہرحال اسے تعینات کرنے کا فیصلہ کیا۔ اس معروف خطرے کے باوجود سسٹم کو چلانے سے، کمپنی نے مؤثر طریقے سے نقصان دہ نتائج کے امکان کو قبول کیا۔

اس نظریے کے تحت، کمپنی جرم کی مرتکب بن جاتی ہے (مثال کے طور پر، غفلت سے سنگین جسمانی نقصان)۔ AI محض ایک آلہ ہے۔ اس کی تعیناتی اور مناسب نگرانی نہ کرنے کے کمپنی کے فیصلے مجرمانہ فعل ہیں۔

کارپوریٹ ذمہ داری اور مجموعی غفلت

فنکشنل مرتکب کا یہ تصور براہ راست کارپوریٹ مجرمانہ ذمہ داری تک پھیلا ہوا ہے۔ کسی تنظیم کو جوابدہ ٹھہرایا جا سکتا ہے اگر مجرمانہ طرز عمل کو معقول طور پر اس سے منسوب کیا جا سکے۔ یہ اکثر سنگین غفلت کے معاملات میں عمل میں آتا ہے، جہاں کمپنی کی پالیسیوں — یا اس کی کمی — نے ایک ایسا ماحول پیدا کیا جہاں AI سے چلنے والا جرم صرف ممکن ہی نہیں تھا، بلکہ اس کا اندازہ بھی تھا۔

اگرچہ قانونی اصول اچھی طرح سے قائم ہیں، لیکن AI پر ان کا اطلاق اب بھی شکل اختیار کر رہا ہے۔ نیدرلینڈز میں، 2025 تک، خاص طور پر ہونے والے نقصانات کی مجرمانہ ذمہ داری پر کوئی شائع شدہ عدالتی فیصلے نہیں ہیں۔ مکمل طور پر AI نظام کے خود مختار فیصلے کے ذریعے۔ اس سے ظاہر ہوتا ہے کہ قانونی میدان اب بھی ٹیکنالوجی کے ساتھ کیچ اپ کھیل رہا ہے۔

ابھی کے لیے، استغاثہ ان عمومی اصولوں کو اپناتے ہیں، اگر وہ AI کو کنٹرول کرتے ہیں اور اس کے غلط کاموں کی صلاحیت کو قبول کرتے ہیں، جیسے کہ لاپرواہی AI آپریشن کے نتیجے میں لاپرواہی سے ہونے والے قتل کے معاملات میں، افراد کو ذمہ دار ٹھہرایا جاتا ہے۔ آپ کی موجودہ حالت کے بارے میں مزید پڑھ سکتے ہیں۔ ڈچ قانون میں AI اور اس کے مضمرات.

قانونی مشورے کے لیے، یہ حقیقت ایک چیز پر پوری توجہ مرکوز کرتی ہے: ذمہ دار انسانی نگرانی اور رسک مینجمنٹ کے لیے ایک فعال نقطہ نظر کا مظاہرہ کرنا۔ کنٹرول کی کمی کو ثابت کرنا یا یہ دلیل دینا کہ نقصان دہ نتیجہ حقیقی طور پر غیر متوقع تھا اس طرح کے الزامات کے خلاف دفاع میں مرکزی حیثیت ہوگی۔

EU AI ایکٹ کا مجرمانہ ذمہ داری پر اثر

جبکہ ڈچ گھریلو قانون کی طرح functioneel daderschap الزام کو منسوب کرنے کے لیے ایک فریم ورک فراہم کرتا ہے، ایک وسیع تر اقدام کے ذریعے منظر نامے کو ڈرامائی طور پر نئی شکل دی جا رہی ہے: یورپی یونین مصنوعی ذہانت کا ایکٹ. یہ صرف ضابطے کا ایک اور ٹکڑا نہیں ہے؛ یہ ایک جامع رسک پر مبنی فریم ورک ہے جو اس بات کو کنٹرول کرنے کے لیے ڈیزائن کیا گیا ہے کہ کس طرح AI سسٹمز کو پوری ایک مارکیٹ میں تیار اور تعینات کیا جاتا ہے۔

قانونی پیشہ ور افراد اور کاروباروں کے لیے، AI ایکٹ کے ساتھ گرفت حاصل کرنا بہت ضروری ہے کیونکہ اس سے تعمیل کے نئے فرائض پیدا ہوتے ہیں جن کا براہ راست اثر مجرمانہ ذمہ داری پر ہوتا ہے۔ اس کے سخت تقاضوں پر عمل کرنے میں ناکامی کو استغاثہ لاپرواہی یا لاپرواہی کے طاقتور ثبوت کے طور پر استعمال کر سکتا ہے، جب کوئی AI نظام نقصان پہنچاتا ہے تو مجرمانہ الزامات کی بنیاد بنتا ہے۔ یہ قانون سازی گفتگو کو محض نقصان پہنچانے کے رد عمل سے بدل کر اسے فعال طور پر روکتی ہے۔

AI ایکٹ ایک واضح درجہ بندی قائم کرتا ہے، جو کہ AI سسٹمز کی حفاظت یا بنیادی حقوق کو نقصان پہنچانے کی صلاحیت کی بنیاد پر درجہ بندی کرتا ہے۔ یہ ڈھانچہ فوجداری قانون سے اس کے تعلق کو سمجھنے کی کلید ہے۔

خطرے کے زمرے کو سمجھنا

ایکٹ کا سب سے اہم اثر اس کے ٹائرڈ اپروچ سے آتا ہے۔ یہ تمام AI کے ساتھ ایک جیسا سلوک نہیں کرتا ہے۔ اس کے بجائے، یہ سسٹمز کو زمروں میں ترتیب دیتا ہے، ہر ایک مختلف قانونی ذمہ داریوں کے ساتھ۔

• ناقابل قبول خطرہ: یہ ایسے نظام ہیں جنہیں بنیادی حقوق کے لیے اتنا خطرہ سمجھا جاتا ہے کہ ان پر مکمل پابندی عائد کر دی جاتی ہے۔ حکومت کے زیر انتظام سوشل اسکورنگ سسٹمز یا قانون نافذ کرنے والے اداروں کے ذریعے عوامی مقامات پر ریئل ٹائم بائیو میٹرک شناخت کے بارے میں سوچیں (تنگ مستثنیات کے ساتھ)۔

• اعلی خطرہ: یہ فوجداری قانون کے لیے سب سے اہم زمرہ ہے۔ یہ حساس شعبوں میں استعمال ہونے والے AI کا احاطہ کرتا ہے جیسے اہم انفراسٹرکچر، طبی آلات، اور، اہم بات، قانون نافذ کرنے والے اور انصاف کی انتظامیہ۔ پیشن گوئی کرنے والے پولیسنگ ٹولز اور AI سے چلنے والے سزا سنانے والے سافٹ ویئر اس گروپ میں مکمل طور پر آتے ہیں۔

• محدود خطرہ: یہ نظام، جیسے کہ چیٹ بوٹس، ہلکی شفافیت کی ذمہ داریوں کا سامنا کرتے ہیں۔ صارفین کو صرف اس بات سے آگاہ کیا جانا چاہیے کہ وہ AI کے ساتھ بات چیت کر رہے ہیں۔

• کم سے کم خطرہ: اس زمرے میں زیادہ تر AI ایپلیکیشنز شامل ہیں، جیسے کہ سپیم فلٹرز یا ویڈیو گیمز میں AI، جو بڑی حد تک غیر منظم ہیں۔

"ناقابل قبول خطرے" کے زمرے میں کسی نظام کو تعینات کرنا براہ راست خلاف ورزی ہے جو کسی مجرمانہ غفلت کے معاملے میں آسانی سے مدد کر سکتا ہے اگر یہ نقصان کا باعث بنتا ہے۔ بنیادی قانونی جنگ کا میدان، تاہم، ہائی رسک سسٹمز کے ارد گرد ہوگا۔

ہائی رسک سسٹمز اور مجرمانہ غفلت

اعلی خطرے والے AI کے لیے، ایکٹ سخت تقاضے عائد کرتا ہے جو دیکھ بھال کے قانونی معیار کے طور پر کام کرتے ہیں۔ یہ ذمہ داریاں تجاویز نہیں ہیں۔ وہ ڈویلپرز اور تعینات کرنے والوں کے لیے لازمی فرائض ہیں۔

ہائی رسک سسٹم کے لیے کلیدی تقاضوں میں تعصب کو روکنے کے لیے مضبوط ڈیٹا گورننس، مکمل تکنیکی دستاویزات، صارفین کے لیے مکمل شفافیت، ہر وقت انسانی نگرانی کو یقینی بنانا، اور اعلیٰ سطح کی درستگی اور سائبر سیکیورٹی کو برقرار رکھنا شامل ہے۔

تصور کریں کہ ایک کمپنی نسلی تعصب کے لیے تربیتی ڈیٹا کی صحیح جانچ کیے بغیر پیشین گوئی کرنے والا پولیسنگ الگورتھم تعینات کرتی ہے — جو کہ ایکٹ کے ڈیٹا گورننس کے قوانین کی واضح خلاف ورزی ہے۔ اگر یہ متعصب نظام غلط گرفتاری کا باعث بنتا ہے جس کے نتیجے میں نقصان ہوتا ہے، تو استغاثہ کے پاس ایک تیار دلیل ہے۔ وہ AI ایکٹ کی عدم تعمیل کو کمپنی کی معقول دیکھ بھال میں ناکامی کے براہ راست ثبوت کے طور پر اشارہ کر سکتے ہیں، جس سے کارپوریٹ لاپرواہی کا الزام ثابت کرنا بہت آسان ہو جاتا ہے۔

یورپی یونین کے وسیع مصنوعی ذہانت کا ایکٹ، جو فروری 2025 میں نیدرلینڈز میں لاگو ہوا، بنیادی طور پر اس قانونی منظر نامے کو تشکیل دیتا ہے۔ عدم تعمیل کے نتیجے میں بڑے پیمانے پر انتظامی جرمانے ہو سکتے ہیں۔ €35 ملین یا کل سالانہ کاروبار کا 7%. ڈچ حکومت نے یہ حکم دیا ہے کہ تنظیمیں کسی بھی ممنوعہ نظام کی نشاندہی کریں اور اسے ختم کریں، جو چہرے کی شناخت کی غلطیوں سے غلط گرفتاریوں میں نظر آنے والی خام AI پر سنگین خدشات کی عکاسی کرتی ہے۔ جیسا کہ قانونی اسکالرز مدعا علیہان کے لیے AI شواہد کو چیلنج کرنے کے لیے زیادہ حقوق کی وکالت کرتے ہیں، یہ ایکٹ مزید سخت عدالتی جانچ پڑتال کی راہ ہموار کر رہا ہے۔ ان نئے اصولوں کے بارے میں مزید تفصیل کے لیے، آپ تلاش کر سکتے ہیں۔ اے آئی ایکٹ کی ممانعتیں جو لاگو ہوئیں.

ڈچ چائلڈ کیئر بینیفٹس اسکینڈل سے اسباق

اگرچہ قانونی نظریات ہمیں ایک فریم ورک فراہم کرتے ہیں، کچھ بھی الگورتھمک ناکامی کے حقیقی دنیا کے داؤ کو بالکل واضح نہیں کرتا جیسا کہ ڈچ چائلڈ کیئر بینیفٹس اسکینڈل، یا toeslagenaffair. یہ قومی بحران نظامی ناانصافی کا ایک دردناک کیس اسٹڈی ہے، جو کسی ایک بدنیتی پر مبنی اداکار کے ذریعے نہیں، بلکہ ایک مبہم، خودکار نظام کے ذریعے ہے جو مکمل طور پر قابو سے باہر ہے۔

اسکینڈل تباہ کن انسانی قیمت کو ظاہر کرتا ہے جب احتساب "بلیک باکس" الگورتھم کے اندر کھو جاتا ہے۔ قانونی پیشہ ور افراد کے لیے، یہ ایک اہم سبق ہے کہ کس طرح خودکار نظام، چاہے مجرمانہ طور پر خود پر مقدمہ نہ بھی چلایا جائے، گہرا نقصان پہنچا سکتا ہے اور ہمارے اداروں میں عوامی اعتماد کو توڑ سکتا ہے۔

کس طرح الگورتھم نے ہزاروں لوگوں پر جھوٹا الزام لگایا

اس کے دل میں، اسکینڈل ڈچ ٹیکس اور کسٹمز انتظامیہ کے ذریعہ استعمال ہونے والے خود سیکھنے والے الگورتھم کے گرد گھومتا ہے۔ اس کا کام بچوں کی دیکھ بھال کے فوائد کے دعووں میں ممکنہ دھوکہ دہی کا پتہ لگانا تھا۔ جب کہ مقصد درست تھا، نظام کی داخلی منطق گہری خرابی اور بالآخر امتیازی تھی۔

الگورتھم نے غلط طریقے سے ہزاروں خاندانوں کو دھوکہ دہی کے طور پر اس معیار کی بنیاد پر نشان زد کرنا شروع کیا جو بے ضرر ہونا چاہیے تھا۔ ایک چھوٹی سی انتظامی پرچی، جیسے غائب دستخط، دھوکہ دہی کی مکمل تحقیقات کو متحرک کرنے کے لیے کافی تھی۔ اس کے نتائج زیادہ سے زیادہ تباہ کن تھے۔ 26,000 خاندان، جنہیں دسیوں ہزار یورو کی ادائیگی کا حکم دیا گیا تھا، جس نے بہت سے لوگوں کو مالی تباہی میں دھکیل دیا تھا۔

یہ صورتحال ظاہر کرتی ہے کہ ایک AI کتنی طاقت سے ناانصافی کو بڑھا سکتا ہے۔ ٹیکس حکام کے الگورتھم میں امتیازی نمونوں نے غیر منصفانہ طور پر مخصوص گروہوں کو نشانہ بنایا، جس سے شدید مالی اور سماجی نقصان ہوا۔ قومی چیخ و پکار کے جواب میں، ڈچ حکومت نے 'ڈیزائن کے ذریعے غیر امتیازی سلوک پر ہینڈ بک' شائع کی۔ 2021 مستقبل کے AI سسٹمز میں اس طرح کے تعصبات کو فعال طور پر روکنے کے لیے۔ آپ کے بارے میں مزید بصیرتیں دریافت کر سکتے ہیں۔ کس طرح ڈچ قانون globallegalinsights.com پر AI کو ڈھال رہا ہے۔.

شفافیت اور احتساب میں اہم خلا

۔ toeslagenaffair خودکار فیصلہ سازی کی قانونی اور اخلاقی نگرانی میں کئی اہم خلا کو ختم کر دیا۔ یہ ناکامیاں سمجھنے کے لیے مرکزی حیثیت رکھتی ہیں جب الگورتھم کی پیداوار اس کے انسانی آپریٹرز کے لیے مجرمانہ ذمہ داری کے سوالات اٹھا سکتی ہے۔

تین اہم ناکامیاں سامنے آئیں:

• شفافیت کا فقدان: متاثرہ خاندانوں کو کبھی بھی واضح وجہ نہیں بتائی گئی کہ انہیں کیوں جھنڈا لگایا گیا۔ یہ نظام ایک بلیک باکس تھا، جس کی وجہ سے ان کے لیے اس کے نتائج کو چیلنج کرنا ناممکن تھا۔

• انسانی نگرانی کی غیر موجودگی: الگورتھم کے فیصلوں کو اکثر انجیل سمجھا جاتا تھا۔ خودکار دھوکہ دہی کی درجہ بندیوں پر سوال کرنے یا اسے اوور رائیڈ کرنے میں انسانی حکام کی نظامی ناکامی تھی۔

• جرم کا مفروضہ: ایک بار جب سسٹم نے ایک خاندان کو جھنڈا لگایا، تو وہ مجرم تصور کیے گئے۔ اس نے ثبوت کے بوجھ کو الٹ دیا، انہیں ایک نادیدہ الزام لگانے والے کے خلاف اپنی بے گناہی ثابت کرنے کے لیے ایک ناممکن جنگ میں مجبور کر دیا۔

اسکینڈل ایک واضح یاد دہانی تھی کہ جب ایک خودکار نظام زندگی کو بدلنے والا فیصلہ کرتا ہے، تو "وضاحت کا حق" عیش و آرام کی چیز نہیں ہے - یہ انصاف کا ایک بنیادی جزو ہے۔ اس کے بغیر کوئی معنی خیز اپیل نہیں ہو سکتی۔

ایسے الزامات کا سامنا کرنے والے ہر فرد کے لیے، قانونی فریم ورک کو سمجھنا سب سے اہم ہے۔ دھوکہ دہی کے بارے میں ڈچ نقطہ نظر پیچیدہ ہے، اور اسکینڈل ماہرین کی رہنمائی کی ضرورت پر زور دیتا ہے۔ کے بارے میں مزید جانیں۔ ہمارے مضمون میں دھوکہ دہی اور مالی جرم کے بارے میں ڈچ قانونی نقطہ نظر.

نتیجہ: ضابطے کے لیے ایک پش

اگرچہ کوئی الگورتھم آزمائش میں نہیں ڈالا گیا، انسانی اور سیاسی نتیجہ بہت زیادہ تھا۔ اس کے نتیجے میں ہالینڈ کی پوری حکومت مستعفی ہو گئی۔ 2021. اسکینڈل تبدیلی کے لیے ایک طاقتور اتپریرک بن گیا، جس نے عوامی انتظامیہ میں AI کے استعمال کے لیے سخت رہنما خطوط کی ترقی کو براہ راست متاثر کیا۔

اس نے ثابت کیا کہ ضابطہ اخلاق کے خلاف مجرمانہ الزامات کے بغیر بھی، ایک ناقص، متعصب نظام کو لاپرواہی سے تعینات کرنے کے بڑے پیمانے پر ادارہ جاتی غفلت کے برابر نتائج ہو سکتے ہیں۔ یہ احتیاطی کہانی اب پورے یورپ میں ریگولیٹری بات چیت سے آگاہ کرتی ہے، بشمول EU AI ایکٹ، اس بات کو یقینی بناتا ہے کہ شفافیت، انصاف پسندی، اور انسانی نگرانی مستقبل میں کسی بھی AI کی تعیناتی میں سب سے آگے ہو۔

دفاعی حکمت عملی جب AI شامل ہو۔

جب ایک کلائنٹ کو کسی AI سسٹم کی وجہ سے مجرمانہ الزامات کا سامنا کرنا پڑتا ہے، تو ان کا قانونی مشیر ایک چیلنجنگ نئی دنیا میں قدم رکھتا ہے۔ معیاری قانونی پلے بک پر ایک بڑے نظر ثانی کی ضرورت ہے۔ ایک ٹھوس دفاع کے لیے استغاثہ کے مقدمے کو انسانی ارادے یا غفلت کے لیے الگ کرنے پر توجہ مرکوز کرنی پڑتی ہے، اور اس کا مطلب اکثر الگورتھم کی اپنی خود مختار اور بعض اوقات غیر متوقع نوعیت کو زیرو کرنا ہوتا ہے۔

کسی بھی پراسیکیوٹر کے لیے سب سے بڑی رکاوٹ یہ ثابت کرنا ہے کہ انسان کا ایک مخصوص مجرمانہ ارادہ تھا (مینز ری) جب نقصان کی براہ راست وجہ ایک پیچیدہ الگورتھم تھا۔ یہ وہ جگہ ہے جہاں دفاع کا بہترین آغاز ہوتا ہے۔ مقصد یہ ظاہر کر کے معقول شک پیدا کرنا ہے کہ انسان کے پاس AI کے آزادانہ فیصلے کے لیے مجرمانہ طور پر ذمہ دار ٹھہرانے کا اختیار یا دور اندیشی نہیں ہے۔

بلیک باکس ڈیفنس کے ساتھ چیلنج کرنے والا ارادہ

دستیاب سب سے مضبوط دلائل میں سے ایک ہے۔ "بلیک باکس" دفاع. یہ حکمت عملی اس حقیقت پر چلتی ہے کہ بہت سے جدید AI سسٹمز، خاص طور پر وہ جو ڈیپ لرننگ یا نیورل نیٹ ورکس پر بنائے گئے ہیں، فطری طور پر مبہم ہیں۔ دلیل سیدھی ہے: اگر نظام بنانے والے لوگ پوری طرح وضاحت نہیں کر سکتے کہ یہ کسی خاص نتیجے پر کیسے پہنچا، تو کس طرح ایک صارف سے ممکنہ طور پر یہ توقع کی جا سکتی ہے کہ وہ کسی مجرمانہ نتیجہ کا اندازہ لگا سکتا ہے اور اس کا ارادہ رکھتا ہے؟

یہ دفاع ارادے کی ضرورت کے عین مطابق ہے۔ وکیل دلیل دے سکتا ہے کہ AI کا نقصان دہ عمل ایک غیر متوقع، ابھرتا ہوا رویہ تھا — ایک قسم کا ڈیجیٹل فلوک، نہ کہ منصوبہ بند مجرمانہ فعل۔ AI جتنا زیادہ پیچیدہ اور خود مختار ہوگا، یہ دلیل اتنی ہی زیادہ مجبور ہوجاتی ہے۔

یہ دفاعی کام کرنے کے لیے، آپ کو بالکل درست ماہرین کی ضرورت ہے۔

• ڈیجیٹل فرانزک ماہرین: وہ AI کے کوڈ، ڈیٹا لاگز، اور فیصلہ سازی کی پگڈنڈیوں میں غوطہ لگا کر عین اس نقطہ کو تلاش کر سکتے ہیں جہاں یہ اپنے متوقع رویے سے ہٹ گیا تھا۔

• AI اخلاقیات اور کمپیوٹر سائنسدان: یہ ماہرین کچھ AI ماڈلز کی بلٹ ان غیر متوقع صلاحیت کے بارے میں گواہی دے سکتے ہیں۔ وہ عدالت کو وضاحت کر سکتے ہیں کہ کیوں "بدمعاش" نتیجہ تکنیکی خرابی تھی، مدعا علیہ کی مرضی کا نتیجہ نہیں۔

واقعے کو ایک غیر متوقع خرابی قرار دے کر، دفاع مؤثر طریقے سے دلیل دے سکتا ہے کہ سزا کے لیے ضروری "مجرم ذہن" موجود نہیں ہے۔

کنٹرول کی کمی یا مجرمانہ غلطی کو ثابت کرنا

ایک اور مؤثر حکمت عملی کی کمی پر بحث کرنا ہے۔ مؤثر کنٹرول. کے ڈچ قانونی اصول کے تحت functioneel daderschap (فعال جرم)، ذمہ داری کا تقاضا ہے کہ مدعا علیہ کے پاس کارروائی کو کنٹرول کرنے کا اختیار ہو۔ دفاع یہ ظاہر کر کے اس پر پیچھے ہٹ سکتا ہے کہ، ایک بار جب AI تیار ہو گیا اور چل رہا تھا، اس نے خود مختاری کی ایک ڈگری کے ساتھ کام کیا جس نے اس کے اعمال کو مدعا علیہ کے براہ راست اثر و رسوخ سے باہر رکھا۔

اس میں یہ ظاہر کرنا شامل ہو سکتا ہے کہ سسٹم کو حقیقی وقت میں سیکھنے اور موافقت کرنے کے لیے ڈیزائن کیا گیا تھا، اس کے رویے کو سیال بناتا ہے اور مکمل طور پر قابل قیاس نہیں۔ دفاع کا موقف یہ بن جاتا ہے کہ مدعا علیہ کو کسی ایسی کارروائی کے لیے ذمہ دار نہیں ٹھہرایا جا سکتا جس کا وہ براہ راست حکم دے سکتا ہے اور نہ ہی معقول طریقے سے روک سکتا ہے۔

اس دفاع کا بنیادی مقصد بیانیہ کو انسانی جرم میں سے کسی ایک کو تکنیکی خود مختاری کی طرف منتقل کرنا ہے۔ یہ مدعا علیہ کو مجرم کے طور پر نہیں بلکہ نظام کی غیر متوقع منطق کے شکار کے طور پر دوبارہ بیان کرتا ہے۔

جب ایک AI کے اعمال مضبوط ہونے کے ساتھ، مجرمانہ ذمہ داری کا باعث بن سکتے ہیں۔ AI ایجنٹ کی چوکیاں جگہ نہ صرف ایک اہم روک تھام کا قدم ہے بلکہ ایک مضبوط دفاع کا کلیدی حصہ بھی ہے۔ یہ ثابت کرنا کہ اس قسم کے جدید ترین حفاظتی اقدامات نافذ کیے گئے تھے، اس دلیل کی مضبوطی سے حمایت کر سکتے ہیں کہ مدعا علیہ نے نقصان دہ نتائج کے خطرے کو لاپرواہی سے قبول نہیں کیا۔

بالآخر، منصفانہ دفاع کا حق سب سے اہم ہے، یہاں تک کہ ان معاملات میں بھی جو تکنیکی طور پر پیچیدہ ہوں۔ ایک مدعا علیہ کو بنیادی تحفظات حاصل ہوتے ہیں، جیسا کہ وہ کسی بھی انسانی بنیاد پر جرم میں ہوتے ہیں۔ ان بنیادی اصولوں کو وسیع تر تناظر میں سمجھنے کے لیے، آپ ان کے بارے میں مزید جان سکتے ہیں۔ مجرمانہ معاملات میں خاموش رہنے کا حق اور یہ ڈچ قانون کے اندر کیسے لاگو ہوتا ہے۔

AI استعمال کرنے والے کاروباروں کے لیے ایک عملی تعمیل روڈ میپ

قانونی نظریات کو جاننا ایک چیز ہے، لیکن درحقیقت ایک ٹھوس تعمیل کا فریم ورک بنانا ایک اور چیلنج ہے۔ نیدرلینڈز اور پورے EU میں AI استعمال کرنے والے کاروباروں کے لیے، مجرمانہ ذمہ داری کے خطرے کو منظم کرنے کا بہترین طریقہ فعال طرز حکمرانی اور یہ دکھانے کے قابل ہونا ہے کہ آپ نے اپنا ہوم ورک مکمل کر لیا ہے۔ ایک واضح روڈ میپ ضروری ہے۔

یہ جدت کو دبانے کے بارے میں نہیں ہے۔ یہ آپ کی کمپنی، آپ کے گاہکوں، اور آپ کی ساکھ کی حفاظت کے لیے ہوشیار حفاظتی اقدامات کرنے کے بارے میں ہے۔ ایک مضبوط اندرونی فریم ورک بنا کر، آپ کسی بھی لاپرواہی یا لاپرواہی کے دعووں کے خلاف ایک طاقتور دفاع بھی بنا رہے ہیں اگر کوئی AI سسٹم کبھی غیر متوقع نقصان کا باعث بنتا ہے۔

اپنی AI گورننس فاؤنڈیشن کی تعمیر

سب سے پہلے چیزیں: آپ کو نگرانی اور جوابدہی کے لیے ایک واضح ڈھانچہ کی ضرورت ہے۔ یہ صرف آئی ٹی کا مسئلہ نہیں ہے۔ یہ ایک بنیادی کاروباری ذمہ داری ہے جسے آپ کی قانونی، تعمیل، اور ایگزیکٹو ٹیموں سے مکمل تعاون کی ضرورت ہے۔ مضبوط اپنانا اے آئی گورننس کے بہترین طریقے خطرات سے نمٹنے اور آپ کے AI کو قانونی اور اخلاقی طور پر تعینات کرنے کو یقینی بنانے کے لیے ایک اہم قدم ہے۔

آپ کے گورننس ماڈل کو چند اہم ستونوں پر بنایا جانا چاہیے:

• انسانی ان دی لوپ نگرانی: کسی بھی اعلیٰ فیصلے کے لیے، انسان کا حتمی کہنا ضروری ہے۔ اس شخص یا ٹیم کو اتھارٹی اور تکنیکی جانکاری کی ضرورت ہے کہ کس طرح قدم رکھا جائے، تصحیح کی جائے، یا AI کی تجاویز کو مکمل طور پر اوور رائیڈ کیا جائے۔

• احتساب کی لکیریں صاف کریں۔: آپ کو قطعی طور پر اس بات کی وضاحت کرنی چاہیے کہ ہر ایک مرحلے پر AI سسٹم کے لیے کون ذمہ دار ہے — ترقی اور ڈیٹا سورسنگ سے لے کر تعیناتی اور جاری نگرانی تک۔ یہاں کوئی بھی سرمئی علاقے اہم قانونی خطرات پیدا کرتے ہیں۔

• باقاعدہ الگورتھمک آڈٹس: جس طرح آپ اپنی کمپنی کے مالیات کا آڈٹ کرتے ہیں، اسی طرح آپ کو اپنے AI سسٹمز کا باقاعدگی سے آڈٹ کرنا ہوگا۔ EU AI ایکٹ جیسے قوانین کی کارکردگی، انصاف پسندی اور تعمیل کی جانچ کرنے کے لیے یہ آڈٹ آزاد فریق ثالث کے ذریعے کیے جائیں۔

وضاحت اور ڈیٹا کی سالمیت پر زور دینا

اگر آپ اس بات کی وضاحت نہیں کر سکتے کہ آپ کا سسٹم کیسے کام کرتا ہے، تو آپ عدالت میں اس کا دفاع نہیں کر سکتے۔ "بلیک باکس" کا مسئلہ ایک بہت بڑا قانونی کمزور مقام ہے، جو شفافیت کے لیے ڈیزائننگ کو بالکل اہم بنا دیتا ہے۔

ڈیزائن کی طرف سے وضاحت ایک غیر گفت و شنید اصول ہونا چاہئے. آپ کی تکنیکی ٹیموں کو لازمی طور پر ایسا نظام بنانا چاہیے جہاں فیصلہ سازی کے عمل کو دستاویزی بنایا جا سکے، سمجھا جا سکے اور غیر تکنیکی لوگوں جیسے ججوں اور ریگولیٹرز کو سمجھایا جا سکے۔

یہ سب آپ کے ماڈلز کو تربیت دینے کے لیے استعمال ہونے والے ڈیٹا سے شروع ہوتا ہے۔ محتاط ڈیٹا گورننس تعصب کے خلاف آپ کا بہترین دفاع ہے جو الگورتھمک نقصان کا ایک بڑا ذریعہ ہے۔ یقینی بنائیں کہ آپ کا ڈیٹا اعلیٰ معیار کا ہے، متعلقہ ہے، اور ان لوگوں کی صحیح نمائندگی کرتا ہے جن پر یہ اثر ڈالے گا۔ ایک واضح آڈٹ ٹریل بنانے کے لیے آپ ڈیٹا کو کس طرح ماخذ، صاف اور پراسیس کرتے ہیں اس کے ہر قدم کو دستاویز کریں۔ یہ دستاویزات انمول ثبوت ہیں کہ آپ نے مستعدی سے کام لیا ہے۔

EU AI ایکٹ کی تعمیل چیک لسٹ

EU AI ایکٹ تمام فعال رسک مینجمنٹ کے بارے میں ہے، خاص طور پر ہائی رسک سسٹمز کے لیے۔ آپ کی تعمیل کی حکمت عملی کو حفاظت اور انصاف کے لیے مسلسل عزم ظاہر کرنے کی ضرورت ہے۔

ایک عملی چیک لسٹ میں شامل ہونا چاہئے:

1. خطرے کی درجہ بندی: باضابطہ طور پر ہر AI سسٹم کی درجہ بندی کریں جسے آپ کی کمپنی ایکٹ کے خطرے کے زمرے کے مطابق استعمال کرتی ہے۔

2. اثرات کا اندازہ: کسی بھی اعلی خطرے والے AI کو تعینات کرنے سے پہلے، ڈیٹا پروٹیکشن امپیکٹ اسیسمنٹس (DPIAs) اور بنیادی حقوق کے اثرات کے جائزے (FRIAs) کا انعقاد اور دستاویز کریں۔

3. تکنیکی دستاویزات: ریگولیٹرز کو فراہم کرنے کے لیے تفصیلی، تازہ ترین تکنیکی دستاویزات تیار رکھیں جب بھی وہ اس کا مطالبہ کریں۔

4. مسلسل نگرانی: AI کی کارکردگی پر نظر رکھنے اور اس کے تعینات ہونے کے بعد ظاہر ہونے والے غیر متوقع خطرات کو پکڑنے کے لیے پوسٹ مارکیٹ مانیٹرنگ کے لیے عمل مرتب کریں۔

اکثر پوچھے گئے سوالات

AI اور فوجداری قانون کے درمیان کراس اوور سمجھ بوجھ سے بہت سارے سوالات کو جنم دیتا ہے۔ یہاں، ہم قانونی پیشہ ور افراد، ڈویلپرز، اور کاروباری مالکان کے لیے کچھ عمومی خدشات سے نمٹتے ہیں جو یہ سوچ رہے ہیں کہ کیا کوئی الگورتھم واقعی کسی جرم کے لیے جزوی طور پر ذمہ دار ہو سکتا ہے۔

کیا کسی کمپنی کو مجرمانہ طور پر ذمہ دار ٹھہرایا جا سکتا ہے اگر اس کا AI امتیازی سلوک کرتا ہے؟

جی ہاں، یہ بالکل کر سکتا ہے. اگرچہ آپ کو گودی میں کوئی AI سسٹم نظر نہیں آئے گا، لیکن جو کمپنی اسے استعمال میں لاتی ہے وہ ڈچ کارپوریٹ مجرمانہ ذمہ داری کے اصولوں کے تحت امتیازی نتائج کے لیے یقینی طور پر مجرمانہ الزامات کا سامنا کر سکتی ہے۔

اگر کمپنی کی قیادت AI کے تعصب کی صلاحیت کے بارے میں جانتی تھی اور اس نے کچھ نہیں کیا، یا اگر وہ اپنی نگرانی میں مکمل طور پر لاپرواہی کا مظاہرہ کر رہے تھے، تو مجرمانہ الزامات ایک بہت ہی حقیقی امکان ہیں۔ EU AI ایکٹ ہائی رسک سسٹمز کے لیے تعصب مخالف سخت قوانین بھی مرتب کرتا ہے۔ ان معیارات پر پورا نہ اترنا کسی بھی مجرمانہ کیس میں لاپرواہی کا طاقتور ثبوت ہوگا۔ قانونی اسپاٹ لائٹ ہمیشہ AI کی تخلیق، تربیت اور تعیناتی کے ارد گرد کیے گئے انسانی فیصلوں پر چمکتی رہے گی۔

AI میں بلیک باکس کا مسئلہ کیا ہے؟

"بلیک باکس" کا مسئلہ پیچیدہ AI ماڈلز کے لیے ایک اصطلاح ہے جہاں ان کو بنانے والے لوگ بھی مکمل طور پر اس بات کا پتہ نہیں لگا سکتے کہ ایک مخصوص آؤٹ پٹ کیسے پہنچا۔ یہ ایک بہت بڑا مسئلہ ہے جب AI اور فوجداری قانون آپس میں ٹکراتے ہیں۔

عدالت میں، یہ دراصل دفاع کا سنگ بنیاد بن سکتا ہے۔ ایک وکیل یہ دلیل دے سکتا ہے کہ نقصان دہ نتیجہ مکمل طور پر غیر متوقع تھا، یعنی مدعا علیہ کے پاس مطلوبہ مجرمانہ ارادے کی کمی تھی (مینز ری)۔ دلیل آسان ہے: وہ کس طرح اس نتیجے کا ارادہ کر سکتے تھے جس کی وہ ممکنہ طور پر پیش گوئی نہیں کر سکتے تھے؟

لیکن استغاثہ کی زبردست واپسی ہے۔ وہ یہ استدلال کر سکتے ہیں کہ مناسب حفاظتی اقدامات کے بغیر ایک طاقتور، غیر متوقع نظام کو تعینات کرنا، اپنے آپ میں، لاپرواہی یا سنگین غفلت کا عمل ہے۔ اور یہ مجرمانہ ذمہ داری کے لیے درکار ذہنی عنصر کو پورا کرنے کے لیے کافی ہو سکتا ہے۔

یہ پیشین گوئی اور دیکھ بھال کے فرائض پر ایک اعلی داؤ پر قانونی لڑائی کا مرحلہ طے کرتا ہے۔

ڈیولپرز کے لیے قانونی خطرے کو محدود کرنے کا بہترین طریقہ کیا ہے؟

قانونی خطرے سے خود کو بچانے کے لیے ڈویلپرز جو واحد سب سے مؤثر چیز کر سکتے ہیں وہ ہے AI کی زندگی کے ہر مرحلے میں پیچیدہ، شفاف دستاویزات رکھنا۔ اس کے بارے میں ایک تفصیلی "آڈٹ ٹریل" بنانے کے بارے میں سوچیں جو آپ کے ثبوت کا سب سے اہم حصہ بن سکتا ہے۔

اس دستاویزات کو واقعی شروع سے ختم ہونے تک ہر چیز کا احاطہ کرنے کی ضرورت ہے:

• اعداد و شمار ذرائع: تربیت کا ڈیٹا کہاں سے آیا، اور معیار اور تعصب کی جانچ کیسے کی گئی؟

• تعصب کی تخفیف: ڈیٹا سیٹس سے تعصبات کو تلاش کرنے اور اسے دور کرنے کے لیے کون سے مخصوص اقدامات کیے گئے؟

• ڈیزائن کی دلیل: کلیدی آرکیٹیکچرل انتخاب اور الگورتھم کے پیچھے کیا منطق تھی؟

• جانچ کے نتائج۔: ہر ٹیسٹ رن کا مکمل ریکارڈ، بشمول ناکامیاں اور آپ نے انہیں کیسے ٹھیک کیا۔

انسانی نگرانی کے لیے ایک واضح فریم ورک رکھنا اتنا ہی ضروری ہے۔ اگر کبھی کوئی تفتیش ہوتی ہے تو یہ کاغذی کارروائی مستعدی کے ناقابل تردید ثبوت کے طور پر کام کرتی ہے۔ اس سے یہ ظاہر کرنے میں مدد ملتی ہے کہ کوئی بھی نقصان واقعی ایک غیر متوقع حادثہ تھا، نہ کہ غفلت کا نتیجہ — اور یہ ایک ٹھوس قانونی دفاع کی بنیاد ہے۔