AI اور فوجداری قانون: جب کوئی مشین جرم کرتی ہے تو کون ذمہ دار ہوتا ہے؟

جب اے آئی سسٹم کسی جرم میں پھنس جاتا ہے تو قانون مشین پر انگلی نہیں اٹھاتا۔ اس کے بجائے، مجرمانہ ذمہ داری کا پتہ ایک انسانی اداکار پر لگایا جاتا ہے — چاہے وہ صارف ہو، پروگرامر ہو، یا مینوفیکچرر — جو یا تو AI کے اعمال پر کنٹرول رکھتا تھا یا اس سے ہونے والے نقصان کو روکنے میں ناکام رہا۔

AI اور مجرمانہ ذمہ داری کو ختم کرنا

اس کی تصویر بنائیں: AI سے چلنے والا ڈیلیوری ڈرون بدمعاش ہو جاتا ہے، اپنے پروگرام شدہ راستے سے ہٹ جاتا ہے، اور ایک سنگین حادثے کا سبب بنتا ہے۔ مجرمانہ الزامات میز پر ہیں۔ لیکن اصل میں کون، یا کیا، ذمہ دار ہے؟

عدالتیں ڈرون کے خلاف قانونی کارروائی نہیں کر سکتیں۔ ہمارا پورا قانونی نظام انسانی ارادے اور عمل کے گرد بنایا گیا ہے۔ یہ بنیادی مسئلہ ہمیں الگورتھم کی تہوں کو چھیلنے پر مجبور کرتا ہے اور اس شخص کو تلاش کرنے پر مجبور کرتا ہے جس کے فیصلے — یا غفلت — نقصان دہ نتائج کا باعث بنے۔

فوجداری قانون کا مرکزی ستون mens rea کا تصور ہے ، یا "مجرم ذہن"۔ کسی جرم کے مرتکب ہونے کے لیے، ایک شخص کے ذہن کی مجرمانہ حالت ہونی چاہیے، چاہے وہ جان بوجھ کر، لاپرواہی یا لاپرواہی ہو۔ ایک AI، چاہے کتنا ہی نفیس کیوں نہ ہو، اس میں شعور، جذبات، یا حقیقی ارادے کی صلاحیت نہیں ہوتی۔ یہ کوڈ اور ڈیٹا پر چلتا ہے، اخلاقی کمپاس پر نہیں۔

کیونکہ ایک AI ایک "مجرم ذہن" نہیں بنا سکتا، اسے موجودہ قانونی فریم ورک کے تحت مجرمانہ طور پر ذمہ دار نہیں ٹھہرایا جا سکتا۔ توجہ ہمیشہ ٹول (AI) سے ٹول کے صارف یا تخلیق کار کی طرف منتقل ہوتی ہے۔

یہ محور AI کے لائف سائیکل میں شامل انسانوں پر قانونی طور پر روشنی ڈالتا ہے۔ AI اور مجرمانہ ذمہ داری کو صحیح طریقے سے سلجھانے کے لیے، یہ سمجھنا بہت اہم ہوتا جا رہا ہے کہ لوگ ان سسٹمز کو کس طرح ڈائریکٹ کرتے ہیں، بشمول فوری انجینئرنگ کی پیچیدگیوں جیسی چیزیں ۔

مشین کے پیچھے انسان کی شناخت

جب کوئی عدالت AI سے متعلق کسی جرم کی کھوج لگاتی ہے، تو اس کا پہلا کام انسانی ایجنسی کی زنجیر کی پیروی کرنا اور اس بات کی نشاندہی کرنا ہے کہ ذمہ داری واقعی کہاں ہے۔ کیس کی تفصیلات پر منحصر ہے، کئی مختلف فریق اپنے آپ کو جوابدہ پا سکتے ہیں۔

یہ واضح کرنے میں مدد کرنے کے لیے کہ ذمہ داری کہاں گر سکتی ہے، نیچے دی گئی جدول اہم انسانی اداکاروں اور انھیں ذمہ دار ٹھہرانے کے لیے قانونی استدلال کا خاکہ پیش کرتی ہے۔

AI اعمال کے لیے انسانی احتساب کا نقشہ بنانا

جیسا کہ آپ دیکھ سکتے ہیں، ذمہ داری کے امیدوار عام طور پر چند کلیدی زمروں میں آتے ہیں۔ اگرچہ ٹیکنالوجی نئی ہے، قانونی اصول اکثر اچھی طرح سے قائم ہیں۔

بالآخر، قانون ایک سادہ، بنیادی سوال کا جواب دینے کی کوشش کر رہا ہے: جرم کو ہونے سے روکنے کی طاقت اور موقع کس انسان کے پاس تھا؟ اس شخص کی شناخت کر کے، قانونی نظام مجرمانہ ذمہ داری کے قائم کردہ اصولوں کو لاگو کر سکتا ہے، یہاں تک کہ جب کیس میں آج کی سب سے پیچیدہ ٹیکنالوجی شامل ہو۔

جدید AI جرائم پر روایتی قوانین کا اطلاق

جب AI جیسی بالکل نئی ٹیکنالوجی کسی جرم میں ملوث ہوتی ہے، تو آپ کو لگتا ہے کہ ہمارے صدیوں پرانے قانونی نظام مکمل طور پر تیار نہیں ہیں۔ لیکن حقیقت میں عدالتیں شروع سے شروع نہیں ہوتیں۔ وہ موجودہ قانونی اصولوں کو ڈھال رہے ہیں تاکہ یہ معلوم کیا جا سکے کہ جب کوئی مشین جرم کرتی ہے تو کون ذمہ دار ہوتا ہے، مؤثر طریقے سے "پردے کے پیچھے انسان" کی تلاش میں۔

اس نقطہ نظر کا مطلب روایتی فوجداری قانون کے گول سوراخ میں AI کے مربع پیگ کو فٹ کرنا ہے۔ AI کے لیے مکمل طور پر نئے قوانین ایجاد کرنے کے بجائے، قانونی نظام ذمہ داری کے قائم کردہ اصولوں کو ان لوگوں پر لاگو کرتا ہے جو ان ذہین نظاموں کو تخلیق، تعینات اور کنٹرول کرتے ہیں۔ توجہ انسانی ایجنسی پر مضبوطی سے رہتی ہے، یہاں تک کہ جب ایک الگورتھم کارروائیاں کرتا ہے۔

فنکشنل پرپریشن کا نظریہ

اس فرق کو پُر کرنے کے لیے استعمال ہونے والا ایک کلیدی تصور، خاص طور پر نیدرلینڈز جیسے دائرہ اختیار میں، فنکشنل پرپریشن ہے ۔ اس کے بارے میں اس طرح سوچیں: اگر کوئی جرم کرنے کے لیے ہتھوڑا استعمال کرتا ہے، تو ہم اس شخص کو ذمہ دار ٹھہراتے ہیں، نہ کہ ہتھوڑے کو۔ فنکشنل پرپٹیشن اس منطق کو صرف AI سمیت انتہائی جدید ٹولز تک پھیلا دیتا ہے۔

اس نظریے کے تحت، کسی شخص کو AI کے ذریعے کیے گئے جرم کے "فعال مرتکب" کے طور پر دیکھا جا سکتا ہے اگر اس کے پاس مشین کے طرز عمل کا تعین کرنے کا اختیار ہو اور اس خطرے کو قبول کیا جائے کہ جرم ہو سکتا ہے۔ یہ فریم ورک اہم ہے کیونکہ، بہت سے معاملات میں، ڈچ قانون میں AI سسٹمز کے لیے کوئی مخصوص مجرمانہ ذمہ داری کی دفعات نہیں ہیں۔ اس کے بجائے، عام فریم ورک کا استعمال AI سے متعلقہ ذمہ داری سے نمٹنے کے لیے کیا جاتا ہے، جس میں فنکشنل مرتکب انسان کو ذمہ داری تفویض کرنے کا ایک بنیادی ذریعہ ہے۔

اس کا مطلب ہے کہ قانون دو اہم عناصر کی تلاش کرتا ہے:

1. بجلی: کیا فرد کے پاس AI کے اعمال کو کنٹرول کرنے یا روکنے کا اختیار یا صلاحیت ہے؟
2. قبولیت: کیا انہوں نے شعوری طور پر اس خطرے کو قبول کیا کہ AI کا رویہ مجرمانہ نتیجہ کا باعث بن سکتا ہے؟

اگر آپ دونوں کو "ہاں" میں جواب دے سکتے ہیں تو، AI کے پیچھے والے شخص کو مجرمانہ طور پر ذمہ دار ٹھہرایا جا سکتا ہے، بالکل اسی طرح جیسے کہ اس نے خود ہی اس فعل کا ارتکاب کیا ہو۔

کارپوریٹ مجرمانہ ذمہ داری

ذمہ داری کی تلاش افراد کے ساتھ نہیں رکتی۔ جب کسی کمپنی کی طرف سے تعینات کیا گیا AI نظام نقصان پہنچاتا ہے، تو پوری تنظیم کو کارپوریٹ مجرمانہ ذمہ داری کے اصول کے تحت جوابدہ ٹھہرایا جا سکتا ہے ۔

یہ اس وقت عمل میں آتا ہے جب کسی جرم کو کمپنی کی ثقافت، پالیسیوں، یا مجموعی طور پر غفلت سے منسوب کیا جا سکتا ہے۔ مثال کے طور پر، اگر کوئی کمپنی AI سے چلنے والے مالیاتی تجارتی بوٹ کو ناقص حفاظتی ٹیسٹنگ کے ساتھ مارکیٹ میں لے جاتی ہے اور یہ مارکیٹ میں ہیرا پھیری کرتی ہے، تو کمپنی خود مجرمانہ الزامات کا سامنا کر سکتی ہے۔

یہاں قانونی استدلال یہ ہے کہ AI کے اقدامات تنظیم کے اجتماعی فیصلوں اور ترجیحات کی عکاسی کرتے ہیں۔ مناسب نگرانی کو نافذ کرنے میں ناکامی یا کارپوریٹ کلچر جو منافع کو حفاظت سے اوپر رکھتا ہے ذمہ داری کے لیے کافی بنیاد ہو سکتا ہے۔

یہ اس بات کو یقینی بناتا ہے کہ کمپنیاں صرف اپنے الگورتھم کے پیچھے چھپ نہیں سکتی ہیں تاکہ ممکنہ نقصان کی ذمہ داری سے بچ سکیں۔ نیدرلینڈز میں کمپیوٹر اور سائبر کرائم سے متعلق قانونی فریم ورک اس بات پر گہری نظر پیش کرتا ہے کہ ڈیجیٹل جرائم کے لیے تنظیموں کو کس طرح جوابدہ ٹھہرایا جاتا ہے۔

فوجداری قانون میں مصنوعات کی ذمہ داری

ایک اور اچھی طرح سے قائم شدہ قانونی راستہ مصنوعات کی ذمہ داری ہے ۔ جب کہ ہم اسے عام طور پر دیوانی مقدمات سے جوڑتے ہیں — جیسے کہ ایک ناقص ٹوسٹر آگ کا باعث بنتا ہے — اس کے اصولوں کو مجرمانہ تناظر میں بالکل لاگو کیا جا سکتا ہے۔

اگر کوئی مینوفیکچرر جان بوجھ کر یا لاپرواہی سے ایک خطرناک خامی کے ساتھ AI پروڈکٹ جاری کرتا ہے، اور یہ خامی براہ راست کسی جرم کا باعث بنتی ہے، تو اسے مجرمانہ طور پر ذمہ دار ٹھہرایا جا سکتا ہے۔ ایک خودمختار سیکیورٹی ڈرون کا تصور کریں جو ایک جارحانہ "پرسیوٹ" الگورتھم کے ساتھ ڈیزائن کیا گیا ہے جو حقیقی خطرات اور معصوم راہگیروں کے درمیان فرق نہیں کر سکتا۔

اگر مینوفیکچرر اس خرابی کے بارے میں جانتا تھا لیکن بہرحال پروڈکٹ بیچ دیتا ہے، اور ڈرون کسی کو زخمی کرتا ہے، تو وہ غفلت یا لاپرواہی کے مجرمانہ الزامات کا سامنا کر سکتا ہے۔ یہ مینوفیکچررز کو ایک اعلیٰ معیار پر رکھتا ہے، انہیں یہ یقینی بنانے پر مجبور کرتا ہے کہ ان کے AI سسٹم نہ صرف فعال ہیں بلکہ ان کے مطلوبہ استعمال اور کسی بھی ممکنہ غلط استعمال کے لیے معقول حد تک محفوظ ہیں۔ اس کی اصل میں، قانون پوچھتا ہے کہ کیا مجرمانہ نتیجہ پروڈکٹ کے ڈیزائن کا ایک متوقع نتیجہ تھا۔

جب AI سسٹمز حقیقی دنیا کو نقصان پہنچاتے ہیں۔

قانونی عقائد تجریدی محسوس کر سکتے ہیں جب تک کہ وہ حقیقت سے ٹکرا نہ جائیں۔ جب کوئی AI نظام غلطی کرتا ہے، تو نتیجہ صرف نظریاتی نہیں ہوتا- یہ تباہ کن، زندگیوں کو برباد کرنے اور عوامی اعتماد کو متزلزل کر سکتا ہے۔ داؤ کو صحیح معنوں میں سمجھنے کے لیے، ہمیں تصورات سے آگے بڑھنے اور ایک ایسے معاملے کو دیکھنے کی ضرورت ہے جہاں الگورتھم کے فیصلوں نے قومی بحران کو جنم دیا۔

نیدرلینڈز میں چائلڈ کیئر بینیفٹس اسکینڈل کے ساتھ بالکل ایسا ہی ہوا، جسے 'Toeslagenaffair' کہا جاتا ہے ۔ یہ ایک زبردست، طاقتور مثال ہے کہ کس طرح AI، جب ناقص ڈیزائن کیا گیا ہو اور اسے چیک نہ کیا گیا ہو، تو انسان کو بے پناہ تکلیف پہنچا سکتا ہے۔ اس کیس اسٹڈی نے AI اور فوجداری قانون پر پوری بحث کو نظامی ناکامی کی ایک ٹھوس، ناقابل فراموش کہانی میں بنیاد بنایا ہے۔

تباہی کے لیے ڈیزائن کیا گیا نظام

اس اسکینڈل کا آغاز ڈچ ٹیکس حکام کے ذریعہ استعمال کردہ سیلف لرننگ الگورتھم سے ہوا۔ اس کا مقصد کافی آسان تھا: بچوں کی دیکھ بھال کے فوائد حاصل کرنے والے خاندانوں کے درمیان ممکنہ دھوکہ دہی کا جھنڈا لگانا۔ پھانسی، تاہم، ایک تباہی تھی. الگورتھم ایک مکمل "بلیک باکس" تھا، اس کا فیصلہ سازی کا عمل ان اہلکاروں کے لیے بھی ایک معمہ تھا جو اس پر انحصار کرتے تھے۔

انفرادی معاملات کا مناسب اندازہ لگانے کے بجائے، الگورتھم نے ہزاروں والدین کو دھوکہ دہی کے طور پر نشان زد کیا، اکثر معمولی انتظامی پرچی کے لیے۔ نتائج تیز اور وحشیانہ تھے۔ اہل خانہ کو دسیوں ہزار یورو ادا کرنے کا حکم دیا گیا تھا، عام طور پر بغیر کسی واضح وجہ یا اپیل کرنے کے مناسب موقع کے۔ لوگوں نے اپنے گھر، اپنی ملازمتیں اور اپنی بچتیں کھو دیں۔ زندگیاں اجڑ گئیں۔

اس نظامی خرابی نے الگورتھمک تعصب اور مبہم فیصلہ سازی کے پوشیدہ خطرات کو بے نقاب کیا۔ یہ صرف ایک تکنیکی خرابی نہیں تھی؛ یہ ناقص ٹیکنالوجی اور نگرانی کی کمی کی وجہ سے ایک انسانی تباہی تھی۔

'Toeslagenaffair' ایک بدنام مثال بن گیا ہے کہ کس طرح خود سیکھنے والا AI متعصبانہ، غلط فیصلے کر سکتا ہے جس کے حقیقی دنیا کے سنگین نتائج برآمد ہوتے ہیں۔ اس کے جواب میں، ڈچ حکومت نے 2021 میں 'ڈیزائن کی طرف سے عدم امتیاز پر ہینڈ بک' شائع کی ، اس طرح کی تباہی کو دوبارہ ہونے سے روکنے کے لیے زیادہ الگورتھمک شفافیت اور بنیادی حقوق کی تعمیل پر زور دیا۔

ذمہ داری کا لا جواب سوال

اس اسکینڈل نے ایک تکلیف دہ قومی گفتگو پر مجبور کر دیا: جب کسی مشین کے عمل سے اتنے بڑے پیمانے پر نقصان ہوتا ہے تو اس کا ذمہ دار کون ہے؟ آپ الگورتھم کو آزمائش پر نہیں ڈال سکتے، پھر بھی اس کے فیصلوں نے ناقابل تردید نقصان پہنچایا۔ اس نے جو قانونی اور اخلاقی سوالات اٹھائے ہیں وہ اب AI گورننس کے مستقبل میں مرکزی حیثیت رکھتے ہیں۔

• الگورتھمک تعصب: یہ نظام غیر متناسب طور پر دوہری شہریت والے خاندانوں کو نشانہ بناتا ہوا دکھائی دیتا ہے، جس سے امتیازی سلوک کے بارے میں سنگین سوالات اٹھتے ہیں۔ کیا الگورتھم امتیازی ہو سکتا ہے، اور جب یہ ہو تو کون ذمہ دار ہے؟
• شفافیت کا فقدان: حکام وضاحت نہیں کر سکے۔ کیوں الگورتھم نے بعض خاندانوں کو جھنڈا لگایا، جس سے متاثرین کے لیے اپنا دفاع کرنا ناممکن ہو گیا۔ اس وضاحت کی کمی نے نظام کی خامیوں کو کسی بھی حقیقی جانچ سے بچا لیا۔
• انسانی دستبرداری: شاید سب سے زیادہ پریشان کن "آٹومیشن تعصب" کا واضح معاملہ تھا - لوگوں کا خودکار نظاموں کے آؤٹ پٹ پر ضرورت سے زیادہ انحصار کرنے اور آنکھیں بند کر کے قبول کرنے کا رجحان۔ سرکاری ملازمین نے الگورتھم کے فیصلوں پر بھروسہ کیا، غلط الزامات کا سلسلہ شروع کر دیا۔

اگرچہ یہ کیس بنیادی طور پر انتظامی اور شہری نتائج کی صورت میں نکلا، لیکن یہ انہی احتسابی خلا کو نمایاں کرتا ہے جو فوجداری قانون کی بحث کو متاثر کرتے ہیں۔ دوسرے خود مختار نظاموں کے متوازی واضح ہیں، جیسا کہ متنازعہ خود ڈرائیونگ کار حادثات سے متعلق قانونی چیلنجوں میں دیکھا گیا ہے ، جہاں الزام لگانا اتنا ہی پیچیدہ ہے۔

ڈچ چائلڈ کیئر اسکینڈل ایک سنجیدہ یاد دہانی ہے کہ جب ہم فیصلے AI کو سونپتے ہیں تو ذمہ داری صرف ختم نہیں ہوتی۔ یہ پھیلا ہوا اور مبہم ہو جاتا ہے، لیکن یہ بالآخر انسانوں کے پاس رہتا ہے جو ان طاقتور نظاموں کو ڈیزائن، تعینات اور نگرانی کرتے ہیں۔

عالمی ضابطے کس طرح ہائی رسک AI کو کم کر رہے ہیں۔

جیسے جیسے مصنوعی ذہانت زیادہ قابل ہوتی ہے، دنیا بھر کی حکومتیں آخرکار بحث سے فیصلہ کن کارروائی کی طرف منتقل ہو رہی ہیں۔ AI کے ساتھ تکنیکی جنگلی مغرب کی طرح سلوک کرنے کے دن واضح طور پر گن رہے ہیں۔ فعال ضابطے کے لیے ایک اہم دباؤ جاری ہے، جس کا مقصد کسی بھی ناقابل واپسی نقصان سے پہلے واضح قانونی گٹرل ترتیب دینا ہے۔

یہ عالمی تحریک بھاری پابندیوں کے ساتھ جدت کو دبانے کے بارے میں نہیں ہے۔ اس کے بجائے، ریگولیٹرز دانشمندی کے ساتھ ایک اہم خطرے پر مبنی نقطہ نظر اپنا رہے ہیں ۔ آپ اس کے بارے میں سوچ سکتے ہیں کہ ہم گاڑیوں کو کیسے ریگولیٹ کرتے ہیں: ہم تمام کاروں کو غیر قانونی نہیں بناتے، لیکن ہمارے پاس طاقتور ریسنگ ماڈلز اور ہیوی ڈیوٹی لاریوں کے لیے ناقابل یقین حد تک سخت قوانین ہیں کیونکہ ان کے نقصان کا امکان بہت زیادہ ہے۔ اسی طرح، نئے AI ضابطے مخصوص ہائی رسک ایپلی کیشنز کو نشانہ بنا رہے ہیں جبکہ کم خطرے والے استعمال کو پھلنے پھولنے دیتے ہیں۔

اس الزام کی قیادت کرنا یورپی یونین کا تاریخی AI ایکٹ ہے ۔ یہ قانون سازی عالمی معیار بننے کی راہ پر گامزن ہے، جس میں AI سسٹمز کو ان کے نقصان پہنچانے کی صلاحیت کی بنیاد پر زمروں میں چھانٹنا اور اس کے مطابق قوانین کا اطلاق کرنا ہے۔ یہ ایک عملی حکمت عملی ہے، جو تکنیکی ترقی کو روکے بغیر شہریوں کی حفاظت کے لیے بنائی گئی ہے۔

سرخ لکیریں کھینچنا ناقابل قبول AI کو روکنا

EU AI ایکٹ اور اسی طرح کے فریم ورک صرف خطرے کے انتظام کے بارے میں نہیں ہیں۔ وہ ریت میں مضبوط اخلاقی لکیریں کھینچنے کے بارے میں بھی ہیں۔ کچھ AI ایپلی کیشنز کو ہمارے بنیادی حقوق کے لیے اتنا خطرناک سمجھا جاتا ہے کہ انہیں مکمل طور پر غیر قانونی قرار دیا جا رہا ہے۔ یہ وہ نظام ہیں جن کے بارے میں ریگولیٹرز کہتے ہیں کہ "ناقابل قبول خطرہ" ہے۔

ممنوعہ AI کے اس زمرے میں وہ ٹیکنالوجیز شامل ہیں جو بنیادی طور پر جمہوری اقدار اور انسانی وقار کے خلاف ہیں۔ پورا نکتہ یہ ہے کہ انتہائی ڈسٹوپیئن منظرناموں کو حقیقت بننے سے روکا جائے۔

ممنوعہ طریقوں کی فہرست مخصوص اور ہدف پر ہے:

• ہیرا پھیری کی ٹیکنالوجیز: کسی بھی شخص کے رویے کو اس انداز میں بگاڑنے کے لیے اعلیٰ ترین تکنیکوں کا استعمال کرنے والا کوئی بھی نظام جس سے انھیں جسمانی یا نفسیاتی نقصان پہنچنے کا خدشہ ہو۔
• سماجی اسکورنگ سسٹم: عوامی حکام کی جانب سے "سوشل اسکورنگ" کے لیے استعمال کیے جانے والے AI — یعنی لوگوں کے سماجی رویے یا ذاتی خصائص کی بنیاد پر ان کی قابل اعتمادی کا جائزہ لینا یا درجہ بندی کرنا — پر پابندی ہے۔
• کمزوریوں کا استحصال: AI کا استعمال کرنا بھی ممنوع ہے جو مخصوص گروہوں کی عمر یا کسی جسمانی یا ذہنی معذوری کی وجہ سے کمزوریوں کا فائدہ اٹھاتا ہے۔

یہ ممانعتیں ایک غیر واضح پیغام بھیجتی ہیں: کچھ تکنیکی راستے نیچے جانے کے لیے بہت خطرناک ہیں۔ انہوں نے AI اور فوجداری قانون پر ہونے والی بحث کو بنیادی طور پر بدنیتی پر مبنی یا جابرانہ مقاصد کے لیے ڈیزائن کیے گئے نظاموں کی تعیناتی کو روک کر دل میں لے لیا ۔

نیدرلینڈز میں حقیقی دنیا کا اثر

یہ ضوابط مستقبل کے لیے تجریدی تصورات نہیں ہیں۔ وہ ابھی ایک ٹھوس اثر کر رہے ہیں. مثال کے طور پر، نیدرلینڈز میں، حکومت نے خود کو EU کی ہدایت کے ساتھ ہم آہنگ کرنے میں جلدی کی ہے۔

2025 کے اوائل سے، نیدرلینڈز خطرات کو کنٹرول کرنے کے لیے مخصوص AI سسٹمز پر پابندیاں نافذ کر رہا ہے، خاص طور پر فوجداری قانون اور پبلک سیکٹر ایپلی کیشنز میں۔ اس میں جرم کے لیے AI سے چلنے والی پیشن گوئی کے خطرے کے جائزوں کو غیر قانونی قرار دینا شامل ہے، یہ ایک ایسا عمل ہے جو پہلے پیش گوئی کرنے والی پولیسنگ میں استعمال ہوتا تھا۔

نیدرلینڈز کی تنظیموں کو فروری 2025 تک ان ممنوعہ AI ٹولز کو مرحلہ وار ختم کرنے یا ریگولیٹرز کی طرف سے کافی جرمانے کا خطرہ مول لینے کی ضرورت تھی۔ یہ فیصلہ کن کارروائی ظاہر کرتی ہے کہ حکومتیں اعلی خطرے والے AI کے ساتھ کتنی سنجیدگی سے سلوک کر رہی ہیں، جس سے کاروباری اداروں کے لیے اس کی تعمیل کرنے کے لیے ایک واضح قانونی ضرورت پیدا ہو رہی ہے۔ آپ ان مخصوص AI طریقوں کے بارے میں مزید جان سکتے ہیں جن پر ڈچ حکومت نے پابندی عائد کی ہے اور وہ تنظیموں کو کیسے متاثر کرتے ہیں۔

کاروباری اداروں اور ڈویلپرز کے لیے، ٹیک وے واضح ہے: اس نئے ریگولیٹری ماحول کو سمجھنا اور اس کے مطابق ڈھالنا اب اختیاری نہیں ہے۔ قانونی منظر نامہ مستحکم ہو رہا ہے، اور عدم تعمیل کی سزائیں سخت ہیں، جو کبھی اخلاقی تحفظات کو ٹھوس کاروباری خطرات میں تبدیل کر رہی ہیں۔ ان قوانین کو نیویگیٹ کرنا اب کسی بھی AI سسٹم کو تعینات کرنے کا ایک اہم حصہ ہے۔

آگے کی تلاش: AI کو جوابدہ رکھنے کے نئے طریقے

جیسے جیسے مصنوعی ذہانت زیادہ سے زیادہ خود مختار ہوتی جارہی ہے، ہماری موجودہ قانونی پلے بکس پرانی محسوس ہونے لگی ہیں۔ پرانے طریقے—صرف انسانی صارف یا اصل پروگرامر کی طرف انگلی اٹھانا—جب کوئی AI اپنے فیصلے خود کرنا شروع کردے تو اسے نہ کاٹیں۔ یہ حقیقت قانونی ذہنوں کو ایک بہت مشکل سوال پوچھنے پر مجبور کر رہی ہے: آگے کیا ہے؟

بات چیت احتساب کے حقیقی طور پر نئے ماڈلز کی طرف منتقل ہو رہی ہے، جو کہ جدید ترین AI کے منفرد چیلنجز کے لیے بنائے گئے ہیں۔ ہم یہاں چھوٹے موافقت کے بارے میں بات نہیں کر رہے ہیں۔ جب کسی عمل کے پیچھے "ذہن" ایک پیچیدہ الگورتھم ہوتا ہے تو الزام تفویض کرنے کا کیا مطلب ہے اس پر یہ ایک بنیادی نظر ثانی ہے۔ یہ خیالات ایک ایسی دنیا میں انصاف کے مستقبل کو تشکیل دے رہے ہیں جو دن بہ دن خودکار ہوتی جا رہی ہے۔

الیکٹرانک شخصیت پر متنازعہ بحث

میز پر سب سے جرات مندانہ، اور سب سے زیادہ متنازعہ خیالات میں سے ایک الیکٹرانک شخصیت ہے ۔ یہ تصور کچھ اعلی درجے کی AIs کو ایک محدود قانونی حیثیت دینا ہے، جیسا کہ ایک کارپوریشن کے ساتھ "قانونی شخص" کے طور پر سلوک کیا جاتا ہے۔ یہ AI انسانی حقوق دینے کے بارے میں نہیں ہے۔ اس کے بجائے، یہ ایک ایسی ہستی بنانے کے بارے میں ہے جو جائیداد کا مالک ہو، معاہدوں پر دستخط کر سکے، اور، سب سے اہم بات، اس سے ہونے والے نقصانات کے لیے ذمہ دار ٹھہرایا جائے۔

ایک مکمل خود مختار AI سرمایہ کاری فنڈ کا تصور کریں جو کچھ غیر متوقع تجارتی حکمت عملی کے ساتھ مارکیٹ کریش کو متحرک کرتا ہے۔ الیکٹرانک شخصیت کے ساتھ، AI کو خود ذمہ دار ٹھہرایا جا سکتا ہے، اور اس کے اثاثوں کا استعمال ان لوگوں کو واپس کرنے کے لیے کیا جا سکتا ہے جنہوں نے رقم کھو دی ہے۔ یہ احتساب کے لیے ایک ہدف بناتا ہے جب کوئی ایک انسان واضح طور پر قصوروار نہ ہو۔

پھر بھی، خیال کو کچھ سنگین پش بیک کا سامنا ہے۔

• اخلاقی خطرہ: ناقدین کو خدشہ ہے کہ یہ جیل سے باہر جانے والا کارڈ ہے۔ کیا ڈویلپرز اور کمپنیاں ذمہ داری سے بچنے کے لیے اپنی AI تخلیقات کو مورد الزام ٹھہرا سکتی ہیں؟ یہ ایک حقیقی خطرہ ہے۔
• اخلاقی خدشات: بہت سے لوگوں کے لیے، مشین کو کسی بھی قسم کی شخصیت دینا ایک خطرناک فلسفیانہ لکیر کو عبور کرتا ہے، جو لوگوں اور ٹیکنالوجی کے درمیان فرق کو دھندلا دیتا ہے۔
• عملی: یہ نظریہ میں اچھا لگتا ہے، لیکن یہ اصل میں کیسے کام کرے گا؟ AI جرمانہ کیسے ادا کرتا ہے یا "سزا ادا کرتا ہے"؟ ایک غیر انسانی وجود کو سزا دینے کے حقیقی دنیا کے چیلنجز بہت بڑے ہیں۔

سپلائی چین میں تقسیم شدہ ذمہ داری

ایک بہت زیادہ عملی اور مقبول ماڈل کی ذمہ داری تقسیم کی جاتی ہے ۔ ایک قربانی کے بکرے کو تلاش کرنے کے بجائے، یہ نقطہ نظر AI کی تخلیق اور تعیناتی میں شامل ہر فرد میں احتساب کو پھیلاتا ہے۔ اسے ایک بڑے تعمیراتی حادثے کی طرح سمجھیں — غلطی معمار، مواد فراہم کرنے والے، تعمیراتی فرم، اور سائٹ مینیجر کے درمیان ہو سکتی ہے۔

جب ایک AI ناکام ہوجاتا ہے، تو الزام کئی جماعتوں میں تقسیم کیا جا سکتا ہے:

1. ڈیٹا فراہم کنندہ: اگر انہوں نے متعصب یا کرپٹ ٹریننگ ڈیٹا فراہم کیا۔
2. الگورتھم ڈیولپر: واضح، متوقع خطرات کے ساتھ ایک نظام ڈیزائن کرنے کے لیے۔
3. مینوفیکچرر: مناسب حفاظتی جانچ کے بغیر AI کو کسی پروڈکٹ میں ڈالنے کے لیے۔
4. آخری صارف: سسٹم کو لاپرواہی سے استعمال کرنے یا حفاظتی انتباہات کو نظر انداز کرنے پر۔

اس ماڈل سے پتہ چلتا ہے کہ AI کی ناکامیاں اکثر نظامی مسائل ہوتے ہیں، جو مختلف لوگوں کے فیصلوں کی ایک پوری زنجیر سے پیدا ہوتے ہیں۔ یہ عمل میں شامل ہر فرد کو شروع سے آخر تک حفاظت اور اخلاقیات کو سنجیدگی سے لینے پر مجبور کرتا ہے۔

مشترکہ احتساب کا یہ خیال نیا نہیں ہے۔ یہ ان اصولوں کی عکاسی کرتا ہے جو ہم دوسرے پیشہ ورانہ شعبوں میں دیکھتے ہیں۔ جیسا کہ ہم دیکھتے ہیں کہ AI کو کیسے ہینڈل کیا جائے، یہ موجودہ فریم ورک جیسے تعلیمی سالمیت کے رہنما خطوط پر غور کرنے کے قابل ہے ، جو تعلیم میں AI کو ذمہ داری سے استعمال کرنے کے لیے مشترکہ اخلاقی معیارات کا خاکہ پیش کرتے ہیں۔

بلیک باکس کے مسئلے سے نمٹنا

ہو سکتا ہے کہ مستقبل کے کسی بھی قانونی ماڈل کے لیے واحد سب سے بڑی رکاوٹ "بلیک باکس" کا مسئلہ ہو ۔ آج کے بہت سے طاقتور AI سسٹمز، خاص طور پر ڈیپ لرننگ ماڈل، ان طریقوں سے کام کرتے ہیں جو ان لوگوں کے لیے بھی ایک معمہ ہیں جنہوں نے انہیں بنایا تھا۔ وہ اپنا کام دکھائے بغیر جواب تھوک سکتے ہیں۔

شفافیت کی یہ کمی یہ جاننا ناقابل یقین حد تک مشکل بناتی ہے کہ ایک AI نے ایسی غلطی کیوں کی جس کی وجہ سے جرم ہوا۔ کیا یہ ڈیزائن میں کوئی خامی تھی؟ خراب ڈیٹا؟ یا کچھ عجیب، غیر متوقع سلوک جسے کسی نے آتے نہیں دیکھا؟ جوابات کے بغیر، الزام لگانا محض قیاس آرائی ہے۔

مستقبل کے کسی بھی قابل عمل قانونی فریم ورک کو زیادہ شفافیت کا مطالبہ کرنا ہوگا۔ اس کا مطلب ہے کہ واضح آڈٹ ٹریلز اور ڈیزائن کے لحاظ سے "وضاحت" جیسی خصوصیات کی ضرورت ہوتی ہے، اس بات کو یقینی بنانا کہ جب چیزیں غلط ہو جائیں، تفتیش کار کم از کم ناکامی کا ذریعہ تلاش کرنے کے لیے مشین کے ڈیجیٹل نقشوں کی پیروی کر سکتے ہیں۔

AI قانونی خطرات کو کم کرنے کے لیے ایک عملی فریم ورک

AI اور فوجداری قانون کے پیچیدہ چوراہے پر نیویگیٹ کرنے کے لیے صرف ایک نظریاتی تفہیم سے زیادہ کی ضرورت ہے۔ یہ آپ کی قانونی نمائش کو کم سے کم کرنے کے لیے فعال، عملی اقدامات کا مطالبہ کرتا ہے۔ کسی بھی تنظیم کے لیے جو AI کو ترقی دے رہی ہے یا اس کی تعیناتی کر رہی ہے، ایک مضبوط اندرونی فریم ورک قائم کرنا صرف اچھی اخلاقیات نہیں ہے — یہ ایک اہم کاروباری ضرورت ہے کہ اس بات کو یقینی بنایا جائے کہ جب کوئی مشین جرم کرتی ہے تو آپ کو ذمہ دار نہیں ٹھہرایا جاتا ہے۔

یہ فریم ورک تین بنیادی ستونوں پر بنایا جانا چاہیے: شفافیت ، انصاف پسندی ، اور جوابدہی ۔ ان اصولوں کو AI سسٹم بنانے کے لیے اپنے گائیڈ کے طور پر سوچیں جو نہ صرف موثر ہیں بلکہ قانونی طور پر قابل دفاع بھی ہیں۔ ان اقدار کو اپنے ترقیاتی لائف سائیکل میں شروع سے ہی شامل کرکے، آپ لاپرواہی یا لاپرواہی کے ممکنہ دعووں کے خلاف ایک طاقتور دفاع بناتے ہیں۔

اپنی AI احتسابی چیک لسٹ بنانا

ان اصولوں کو عملی جامہ پہنانے کے لیے، تنظیمیں ضروری طریقوں کی ایک واضح فہرست کو نافذ کر سکتی ہیں۔ یہ اقدامات آپ کی مستعدی کا ایک قابل تصدیق ریکارڈ بنانے میں مدد کرتے ہیں، یہ ثابت کرتے ہوئے کہ آپ نے ممکنہ نقصان کو روکنے کے لیے معقول اقدامات کیے ہیں۔

ان اہم اقدامات کے ساتھ شروع کریں:

• الگورتھمک امپیکٹ اسیسمنٹس (AIAs): اس سے پہلے کہ آپ AI سسٹم کو تعینات کرنے کے بارے میں سوچیں، آپ کو اس کے ممکنہ سماجی اثرات کا سختی سے جائزہ لینے کی ضرورت ہے۔ اس میں تعصب کے خطرات، امتیازی نتائج، اور غلط استعمال کے کسی بھی امکان کا اندازہ لگانا شامل ہے جو مجرمانہ ذمہ داری کا باعث بن سکتا ہے۔
• مضبوط ڈیٹا گورننس قائم کریں: آپ کا AI صرف اتنا ہی اچھا ہے جتنا اس کے ڈیٹا۔ یہ یقینی بنانے کے لیے سخت پروٹوکول کو نافذ کرنا بہت ضروری ہے کہ آپ کا تربیتی ڈیٹا درست، نمائندہ، اور تعصبات سے پاک ہے جو AI کو غیر قانونی فیصلے کرنے کا باعث بن سکتے ہیں۔
• محتاط آڈٹ ٹریلز کو برقرار رکھیں: AI کے آپریشنز، اس کے فیصلوں، اور کسی بھی انسانی مداخلت کے بارے میں تفصیلی لاگز رکھیں۔ کسی واقعے کی صورت میں، یہ ریکارڈ اس بات کی چھان بین کے لیے ناگزیر ہوتے ہیں کہ کیا غلط ہوا اور یہ ظاہر کرنے کے لیے کہ نظام کس طرح کام کرتا ہے۔

کسی بھی خطرے کو کم کرنے کی حکمت عملی کا ایک اہم جزو اعلیٰ داؤ پر لگائے گئے فیصلوں کے لیے 'ہیومن-ان-دی-لوپ' (HITL) سسٹمز کا نفاذ ہے۔ یہ یقینی بناتا ہے کہ ایک انسانی آپریٹر حتمی کنٹرول برقرار رکھتا ہے اور جوابدہی کے واضح سلسلے کو محفوظ رکھتے ہوئے AI کو اوور رائیڈ کر سکتا ہے۔

حتمی حفاظت کے طور پر انسانی نگرانی

'ہیومن-ان-دی-لوپ' ماڈل صرف ایک تکنیکی خصوصیت سے زیادہ ہے۔ یہ ایک قانونی ہے. اہم کارروائیوں کے لیے انسانی تصدیق کی ضرورت سے، ایک تنظیم مؤثر طریقے سے یہ دلیل دے سکتی ہے کہ AI محض ایک جدید ترین ٹول ہے، خود مختار ایجنٹ نہیں جو خود فیصلے کرتا ہے۔ یہ نقطہ نظر اس قانونی پوزیشن کو نمایاں طور پر مضبوط کرتا ہے کہ ایک انسان نے، نہ کہ مشین نے، حتمی، فیصلہ کن انتخاب کیا۔

بالآخر، ان قانونی خطرات کو کم کرنے میں ذمہ داری کا ایک ایسا کلچر بنانا شامل ہے جو پوری تنظیم پر محیط ہو۔ نیدرلینڈز میں ذمہ داری اور نقصانات کے دعووں کی باریکیوں کو سمجھنا ان داخلی پالیسیوں کو تیار کرنے کے لیے قابل قدر سیاق و سباق فراہم کر سکتا ہے۔ مقصد AI بنانا ہے جو نہ صرف اختراعی ہو، بلکہ شفاف، اخلاقی، اور واضح طور پر انسانی کنٹرول میں ہو۔

اکثر پوچھے گئے سوالات