جب اے آئی سسٹم کسی جرم میں پھنس جاتا ہے تو قانون مشین پر انگلی نہیں اٹھاتا۔ اس کے بجائے، مجرمانہ ذمہ داری کا سراغ ایک انسانی اداکار پر لگایا جاتا ہے۔خواہ وہ صارف، پروگرامر، یا مینوفیکچرر ہو، جس کا یا تو AI کے اعمال پر کنٹرول تھا یا وہ اس سے ہونے والے نقصان کو روکنے میں ناکام رہا۔
AI اور مجرمانہ ذمہ داری کو ختم کرنا
اس کی تصویر بنائیں: AI سے چلنے والا ڈیلیوری ڈرون بدمعاش ہو جاتا ہے، اپنے پروگرام شدہ راستے سے ہٹ جاتا ہے، اور ایک سنگین حادثے کا سبب بنتا ہے۔ مجرمانہ الزامات میز پر ہیں۔ لیکن اصل میں کون، یا کیا، ذمہ دار ہے؟
عدالتیں ڈرون کے خلاف قانونی کارروائی نہیں کر سکتیں۔ ہمارا پورا قانونی نظام انسانی ارادے اور عمل کے گرد بنایا گیا ہے۔ یہ بنیادی مسئلہ ہمیں الگورتھم کی تہوں کو چھیلنے پر مجبور کرتا ہے اور اس شخص کو تلاش کرنے پر مجبور کرتا ہے جس کے فیصلے — یا غفلت — نقصان دہ نتائج کا باعث بنے۔
مجرم کا مرکزی ستون قانون کا تصور ہے مینز ری، یا "مجرم ذہن۔" کسی جرم کے مرتکب ہونے کے لیے، ایک شخص کے ذہن کی مجرمانہ حالت ہونی چاہیے، چاہے وہ جان بوجھ کر، لاپرواہی یا لاپرواہی ہو۔ ایک AI، چاہے کتنا ہی نفیس کیوں نہ ہو، اس میں شعور، جذبات، یا حقیقی ارادے کی صلاحیت نہیں ہوتی۔ یہ کوڈ اور ڈیٹا پر چلتا ہے، اخلاقی کمپاس پر نہیں۔
کیونکہ ایک AI ایک "مجرم ذہن" نہیں بنا سکتا، اسے موجودہ قانونی فریم ورک کے تحت مجرمانہ طور پر ذمہ دار نہیں ٹھہرایا جا سکتا۔ توجہ ہمیشہ ٹول (AI) سے ٹول کے صارف یا تخلیق کار کی طرف منتقل ہوتی ہے۔
یہ محور AI کے لائف سائیکل میں شامل انسانوں پر قانونی طور پر روشنی ڈالتا ہے۔ AI اور مجرمانہ ذمہ داری کو صحیح طریقے سے سلجھانے کے لیے، یہ سمجھنا ضروری ہوتا جا رہا ہے کہ لوگ ان نظاموں کو کس طرح ہدایت کرتے ہیں، بشمول چیزیں فوری انجینئرنگ کی پیچیدگیاں.
مشین کے پیچھے انسان کی شناخت
جب کوئی عدالت AI سے متعلق کسی جرم کی کھوج لگاتی ہے، تو اس کا پہلا کام انسانی ایجنسی کی زنجیر کی پیروی کرنا اور اس بات کی نشاندہی کرنا ہے کہ ذمہ داری واقعی کہاں ہے۔ کیس کی تفصیلات پر منحصر ہے، کئی مختلف فریق اپنے آپ کو جوابدہ پا سکتے ہیں۔
یہ واضح کرنے میں مدد کرنے کے لیے کہ ذمہ داری کہاں گر سکتی ہے، نیچے دی گئی جدول اہم انسانی اداکاروں اور انھیں ذمہ دار ٹھہرانے کے لیے قانونی استدلال کا خاکہ پیش کرتی ہے۔
AI اعمال کے لیے انسانی احتساب کا نقشہ بنانا
| ممکنہ ذمہ دار پارٹی | قانونی ذمہ داری کی بنیاد | مثالی منظر نامہ |
|---|---|---|
| صارف/آپریٹر | جرم کے ارتکاب کے لیے AI کا براہ راست استعمال؛ واضح مجرمانہ ارادہ | ایک فرد قائل کرنے والی فشنگ ای میلز بنانے اور بڑے پیمانے پر اسکام کو تعینات کرنے کے لیے AI ٹول کا استعمال کرتا ہے۔ |
| پروگرامر/ڈیولپر | ڈیزائن میں سراسر غفلت یا جان بوجھ کر بدنیتی پر مبنی صلاحیتوں کی تعمیر۔ | ایک ڈویلپر مارکیٹ میں ہیرا پھیری کے قوانین کی لاپرواہی کو نظر انداز کرتے ہوئے ایک خود مختار تجارتی بوٹ بناتا ہے، جس سے کریش ہو جاتا ہے۔ |
| مینوفیکچرر/کمپنی | کارپوریٹ غفلت؛ جان بوجھ کر مناسب حفاظتی اقدامات کے بغیر ناقص مصنوعات فروخت کرنا۔ | ایک ٹیک کمپنی یہ جاننے کے باوجود کہ اس کے سافٹ ویئر میں ایک اہم، غیر موزوں خامی ہے جو حادثات کا سبب بن سکتی ہے، خود چلانے والی کار کی مارکیٹنگ کرتی ہے۔ |
| مالک | AI سسٹم کو صحیح طریقے سے برقرار رکھنے، نگرانی کرنے یا محفوظ کرنے میں ناکامی۔ | خود مختار سیکیورٹی ڈرون کا مالک مطلوبہ حفاظتی اپ ڈیٹس انسٹال کرنے میں ناکام رہتا ہے، اور یہ خرابی کی وجہ سے ایک ساتھی کو زخمی کرتا ہے۔ |
جیسا کہ آپ دیکھ سکتے ہیں، ذمہ داری کے امیدوار عام طور پر چند کلیدی زمروں میں آتے ہیں۔ اگرچہ ٹیکنالوجی نئی ہے، قانونی اصول اکثر اچھی طرح سے قائم ہیں۔
بالآخر، قانون ایک سادہ، بنیادی سوال کا جواب دینے کی کوشش کر رہا ہے: جرم کو ہونے سے روکنے کی طاقت اور موقع کس انسان کے پاس تھا؟ اس شخص کی شناخت کر کے، قانونی نظام مجرمانہ ذمہ داری کے قائم کردہ اصولوں کو لاگو کر سکتا ہے، یہاں تک کہ جب کیس میں آج کی سب سے پیچیدہ ٹیکنالوجی شامل ہو۔
جدید AI جرائم پر روایتی قوانین کا اطلاق
جب AI جیسی بالکل نئی ٹیکنالوجی کسی جرم میں ملوث ہوتی ہے، تو آپ کو لگتا ہے کہ ہمارے صدیوں پرانے قانونی نظام مکمل طور پر تیار نہیں ہیں۔ لیکن حقیقت میں عدالتیں شروع سے شروع نہیں ہوتیں۔ وہ موجودہ قانونی اصولوں کو ڈھال رہے ہیں تاکہ یہ معلوم کیا جا سکے کہ جب کوئی مشین جرم کرتی ہے تو کون ذمہ دار ہوتا ہے، مؤثر طریقے سے "پردے کے پیچھے انسان" کی تلاش میں۔
اس نقطہ نظر کا مطلب روایتی فوجداری قانون کے گول سوراخ میں AI کے مربع پیگ کو فٹ کرنا ہے۔ AI کے لیے مکمل طور پر نئے قوانین ایجاد کرنے کے بجائے، قانونی نظام ذمہ داری کے قائم کردہ اصولوں کو ان لوگوں پر لاگو کرتا ہے جو ان ذہین نظاموں کو تخلیق، تعینات اور کنٹرول کرتے ہیں۔ توجہ انسانی ایجنسی پر مضبوطی سے رہتی ہے، یہاں تک کہ جب ایک الگورتھم کارروائیاں کرتا ہے۔
فنکشنل پرپریشن کا نظریہ
اس فرق کو پُر کرنے کے لیے استعمال ہونے والا ایک کلیدی تصور، خاص طور پر نیدرلینڈز جیسے دائرہ اختیار میں، ہے۔ فنکشنل جرم. اس کے بارے میں اس طرح سوچیں: اگر کوئی جرم کرنے کے لیے ہتھوڑا استعمال کرتا ہے، تو ہم اس شخص کو ذمہ دار ٹھہراتے ہیں، نہ کہ ہتھوڑے کو۔ فنکشنل پرپٹیشن اس منطق کو صرف AI سمیت انتہائی جدید ٹولز تک پھیلا دیتا ہے۔
اس نظریے کے تحت، کسی شخص کو AI کے ذریعے کیے گئے جرم کے "فعال مرتکب" کے طور پر دیکھا جا سکتا ہے اگر اس کے پاس مشین کے طرز عمل کا تعین کرنے کا اختیار ہو اور اس خطرے کو قبول کیا جائے کہ جرم ہو سکتا ہے۔ یہ فریم ورک اہم ہے کیونکہ، بہت سے معاملات میں، ڈچ قانون میں AI سسٹمز کے لیے کوئی مخصوص مجرمانہ ذمہ داری کی دفعات نہیں ہیں۔ اس کے بجائے، عام فریم ورک کا استعمال AI سے متعلقہ ذمہ داری سے نمٹنے کے لیے کیا جاتا ہے، جس میں فنکشنل مرتکب انسان کو ذمہ داری تفویض کرنے کا ایک بنیادی ذریعہ ہے۔
اس کا مطلب ہے کہ قانون دو اہم عناصر کی تلاش کرتا ہے:
- بجلی: کیا فرد کے پاس AI کے اعمال کو کنٹرول کرنے یا روکنے کا اختیار یا صلاحیت ہے؟
- قبولیت: کیا انہوں نے شعوری طور پر اس خطرے کو قبول کیا کہ AI کا رویہ مجرمانہ نتیجہ کا باعث بن سکتا ہے؟
اگر آپ دونوں کو "ہاں" میں جواب دے سکتے ہیں تو، AI کے پیچھے والے شخص کو مجرمانہ طور پر ذمہ دار ٹھہرایا جا سکتا ہے، بالکل اسی طرح جیسے کہ اس نے خود ہی اس فعل کا ارتکاب کیا ہو۔
کارپوریٹ مجرمانہ ذمہ داری
ذمہ داری کی تلاش افراد کے ساتھ نہیں رکتی۔ جب کسی کمپنی کی طرف سے تعینات کیا گیا AI نظام نقصان کا باعث بنتا ہے، تو اس اصول کے تحت پوری تنظیم کو جوابدہ ٹھہرایا جا سکتا ہے۔ کارپوریٹ مجرمانہ ذمہ داری.
یہ اس وقت عمل میں آتا ہے جب کسی جرم کو کمپنی کی ثقافت، پالیسیوں، یا مجموعی طور پر غفلت سے منسوب کیا جا سکتا ہے۔ مثال کے طور پر، اگر کوئی کمپنی AI سے چلنے والے مالیاتی تجارتی بوٹ کو ناقص حفاظتی ٹیسٹنگ کے ساتھ مارکیٹ میں لے جاتی ہے اور یہ مارکیٹ میں ہیرا پھیری کرتی ہے، تو کمپنی خود مجرمانہ الزامات کا سامنا کر سکتی ہے۔
یہاں قانونی استدلال یہ ہے کہ AI کے اقدامات تنظیم کے اجتماعی فیصلوں اور ترجیحات کی عکاسی کرتے ہیں۔ مناسب نگرانی کو نافذ کرنے میں ناکامی یا کارپوریٹ کلچر جو منافع کو حفاظت سے اوپر رکھتا ہے ذمہ داری کے لیے کافی بنیاد ہو سکتا ہے۔
یہ اس بات کو یقینی بناتا ہے کہ کمپنیاں صرف اپنے الگورتھم کے پیچھے چھپ نہیں سکتی ہیں تاکہ ممکنہ نقصان کی ذمہ داری سے بچ سکیں۔ نیدرلینڈز میں کمپیوٹر اور سائبر کرائم سے متعلق قانونی فریم ورک ڈیجیٹل جرائم کے لیے تنظیموں کو کس طرح جوابدہ ٹھہرایا جاتا ہے اس پر گہری نظر پیش کرتا ہے۔
فوجداری قانون میں مصنوعات کی ذمہ داری
ایک اور اچھی طرح سے قائم قانونی راستہ ہے مصنوع کی واجبات. جب کہ ہم اسے عام طور پر دیوانی مقدمات سے جوڑتے ہیں — جیسے کہ ایک ناقص ٹوسٹر آگ کا باعث بنتا ہے — اس کے اصولوں کو مجرمانہ تناظر میں بالکل لاگو کیا جا سکتا ہے۔
اگر کوئی مینوفیکچرر جان بوجھ کر یا لاپرواہی سے ایک خطرناک خامی کے ساتھ AI پروڈکٹ جاری کرتا ہے، اور یہ خامی براہ راست کسی جرم کا باعث بنتی ہے، تو اسے مجرمانہ طور پر ذمہ دار ٹھہرایا جا سکتا ہے۔ ایک خودمختار سیکیورٹی ڈرون کا تصور کریں جو ایک جارحانہ "پرسیوٹ" الگورتھم کے ساتھ ڈیزائن کیا گیا ہے جو حقیقی خطرات اور معصوم راہگیروں کے درمیان فرق نہیں کر سکتا۔
اگر مینوفیکچرر اس خرابی کے بارے میں جانتا تھا لیکن بہرحال پروڈکٹ بیچ دیتا ہے، اور ڈرون کسی کو زخمی کرتا ہے، تو وہ غفلت یا لاپرواہی کے مجرمانہ الزامات کا سامنا کر سکتا ہے۔ یہ مینوفیکچررز کو ایک اعلیٰ معیار پر رکھتا ہے، انہیں یہ یقینی بنانے پر مجبور کرتا ہے کہ ان کے AI سسٹم نہ صرف فعال ہیں بلکہ ان کے مطلوبہ استعمال اور کسی بھی ممکنہ غلط استعمال کے لیے معقول حد تک محفوظ ہیں۔ اس کی اصل میں، قانون پوچھتا ہے کہ کیا مجرمانہ نتیجہ پروڈکٹ کے ڈیزائن کا ایک متوقع نتیجہ تھا۔
جب AI سسٹمز حقیقی دنیا کو نقصان پہنچاتے ہیں۔
قانونی عقائد تجریدی محسوس کر سکتے ہیں جب تک کہ وہ حقیقت سے ٹکرا نہ جائیں۔ جب کوئی AI نظام غلطی کرتا ہے، تو نتیجہ صرف نظریاتی نہیں ہوتا- یہ تباہ کن، زندگیوں کو برباد کرنے اور عوامی اعتماد کو متزلزل کر سکتا ہے۔ داؤ کو صحیح معنوں میں سمجھنے کے لیے، ہمیں تصورات سے آگے بڑھنے اور ایک ایسے معاملے کو دیکھنے کی ضرورت ہے جہاں الگورتھم کے فیصلوں نے قومی بحران کو جنم دیا۔
نیدرلینڈز میں چائلڈ کیئر بینیفٹس اسکینڈل کے ساتھ بالکل ایسا ہی ہوا، جسے کے نام سے جانا جاتا ہے۔ 'توسلاجنافیئر'. یہ ایک زبردست، طاقتور مثال ہے کہ کس طرح AI، جب ناقص ڈیزائن کیا گیا ہو اور اسے چیک نہ کیا گیا ہو، تو انسان کو بے پناہ تکلیف پہنچا سکتا ہے۔ یہ کیس اسٹڈی پوری بحث کو بنیاد بناتی ہے۔ AI اور فوجداری قانون نظامی ناکامی کی ایک ٹھوس، ناقابل فراموش کہانی میں۔
تباہی کے لیے ڈیزائن کیا گیا نظام
اس اسکینڈل کا آغاز ڈچ ٹیکس حکام کے ذریعہ استعمال کردہ سیلف لرننگ الگورتھم سے ہوا۔ اس کا مقصد کافی آسان تھا: بچوں کی دیکھ بھال کے فوائد حاصل کرنے والے خاندانوں کے درمیان ممکنہ دھوکہ دہی کا جھنڈا لگانا۔ پھانسی، تاہم، ایک تباہی تھی. الگورتھم ایک مکمل "بلیک باکس" تھا، اس کا فیصلہ سازی کا عمل ان اہلکاروں کے لیے بھی ایک معمہ تھا جو اس پر انحصار کرتے تھے۔
انفرادی معاملات کا مناسب اندازہ لگانے کے بجائے، الگورتھم نے ہزاروں والدین کو دھوکہ دہی کے طور پر نشان زد کیا، اکثر معمولی انتظامی پرچی کے لیے۔ نتائج تیز اور وحشیانہ تھے۔ اہل خانہ کو دسیوں ہزار یورو ادا کرنے کا حکم دیا گیا تھا، عام طور پر بغیر کسی واضح وجہ یا اپیل کرنے کے مناسب موقع کے۔ لوگوں نے اپنے گھر، اپنی ملازمتیں اور اپنی بچتیں کھو دیں۔ زندگیاں اجڑ گئیں۔
اس نظامی خرابی نے الگورتھمک تعصب اور مبہم فیصلہ سازی کے پوشیدہ خطرات کو بے نقاب کیا۔ یہ صرف ایک تکنیکی خرابی نہیں تھی؛ یہ ناقص ٹیکنالوجی اور نگرانی کی کمی کی وجہ سے ایک انسانی تباہی تھی۔
'Toeslagenaffair' ایک بدنام مثال بن گیا ہے کہ کس طرح خود سیکھنے والا AI متعصبانہ، غلط فیصلے کر سکتا ہے جس کے حقیقی دنیا کے سنگین نتائج برآمد ہوتے ہیں۔ اس کے جواب میں، ڈچ حکومت نے 'ڈیزائن کی طرف سے عدم امتیاز پر ہینڈ بک' شائع کی۔ 2021اس طرح کی تباہی کو دوبارہ ہونے سے روکنے کے لیے زیادہ الگورتھمک شفافیت اور بنیادی حقوق کی تعمیل پر زور دینا۔
ذمہ داری کا لا جواب سوال
اس اسکینڈل نے ایک تکلیف دہ قومی گفتگو پر مجبور کر دیا: جب کسی مشین کے عمل سے اتنے بڑے پیمانے پر نقصان ہوتا ہے تو اس کا ذمہ دار کون ہے؟ آپ الگورتھم کو آزمائش پر نہیں ڈال سکتے، پھر بھی اس کے فیصلوں نے ناقابل تردید نقصان پہنچایا۔ اس نے جو قانونی اور اخلاقی سوالات اٹھائے ہیں وہ اب AI گورننس کے مستقبل میں مرکزی حیثیت رکھتے ہیں۔
- الگورتھمک تعصب: یہ نظام غیر متناسب طور پر دوہری شہریت والے خاندانوں کو نشانہ بناتا ہوا دکھائی دیتا ہے، جس سے امتیازی سلوک کے بارے میں سنگین سوالات اٹھتے ہیں۔ کیا الگورتھم امتیازی ہو سکتا ہے، اور جب یہ ہو تو کون ذمہ دار ہے؟
- شفافیت کا فقدان: حکام وضاحت نہیں کر سکے۔ کیوں الگورتھم نے بعض خاندانوں کو جھنڈا لگایا، جس سے متاثرین کے لیے اپنا دفاع کرنا ناممکن ہو گیا۔ اس وضاحت کی کمی نے نظام کی خامیوں کو کسی بھی حقیقی جانچ سے بچا لیا۔
- انسانی دستبرداری: شاید سب سے زیادہ پریشان کن "آٹومیشن تعصب" کا واضح معاملہ تھا - لوگوں کا خودکار نظاموں کے آؤٹ پٹ پر ضرورت سے زیادہ انحصار کرنے اور آنکھیں بند کر کے قبول کرنے کا رجحان۔ سرکاری ملازمین نے الگورتھم کے فیصلوں پر بھروسہ کیا، غلط الزامات کا سلسلہ شروع کر دیا۔
اگرچہ یہ کیس بنیادی طور پر انتظامی اور شہری نتائج کی صورت میں نکلا، لیکن یہ انہی احتسابی خلا کو نمایاں کرتا ہے جو فوجداری قانون کی بحث کو متاثر کرتے ہیں۔ دیگر خود مختار نظاموں کے متوازی واضح ہیں، جیسا کہ ارد گرد کے قانونی چیلنجوں میں دیکھا گیا ہے۔ متنازعہ سیلف ڈرائیونگ کار حادثاتجہاں الزام لگانا اتنا ہی پیچیدہ ہے۔
ڈچ چائلڈ کیئر اسکینڈل ایک سنجیدہ یاد دہانی ہے کہ جب ہم فیصلے AI کو سونپتے ہیں تو ذمہ داری صرف ختم نہیں ہوتی۔ یہ پھیلا ہوا اور مبہم ہو جاتا ہے، لیکن یہ بالآخر انسانوں کے پاس رہتا ہے جو ان طاقتور نظاموں کو ڈیزائن، تعینات اور نگرانی کرتے ہیں۔
عالمی ضابطے کس طرح ہائی رسک AI کو کم کر رہے ہیں۔
جیسے جیسے مصنوعی ذہانت زیادہ قابل ہوتی ہے، دنیا بھر کی حکومتیں آخرکار بحث سے فیصلہ کن کارروائی کی طرف منتقل ہو رہی ہیں۔ AI کے ساتھ تکنیکی جنگلی مغرب کی طرح سلوک کرنے کے دن واضح طور پر گن رہے ہیں۔ فعال ضابطے کے لیے ایک اہم دباؤ جاری ہے، جس کا مقصد کسی بھی ناقابل واپسی نقصان سے پہلے واضح قانونی گٹرل ترتیب دینا ہے۔
یہ عالمی تحریک بھاری پابندیوں کے ساتھ جدت کو دبانے کے بارے میں نہیں ہے۔ اس کے بجائے، ریگولیٹرز سمجھداری سے ایک nuanced اپنا رہے ہیں خطرے پر مبنی نقطہ نظر. آپ اس کے بارے میں سوچ سکتے ہیں کہ ہم گاڑیوں کو کیسے ریگولیٹ کرتے ہیں: ہم تمام کاروں کو غیر قانونی نہیں بناتے، لیکن ہمارے پاس طاقتور ریسنگ ماڈلز اور ہیوی ڈیوٹی لاریوں کے لیے ناقابل یقین حد تک سخت قوانین ہیں کیونکہ ان کے نقصان کا امکان بہت زیادہ ہے۔ اسی طرح، نئے AI ضابطے مخصوص ہائی رسک ایپلی کیشنز کو نشانہ بنا رہے ہیں جبکہ کم خطرے والے استعمال کو پھلنے پھولنے دیتے ہیں۔
اس الزام کی قیادت کرنا یورپی یونین کا تاریخی نشان ہے۔ اے آئی ایکٹ. یہ قانون سازی عالمی معیار بننے کی راہ پر گامزن ہے، جس میں AI سسٹمز کو ان کے نقصان پہنچانے کی صلاحیت کی بنیاد پر زمروں میں چھانٹنا اور اس کے مطابق قوانین کا اطلاق کرنا ہے۔ یہ ایک عملی حکمت عملی ہے، جو تکنیکی ترقی کو روکے بغیر شہریوں کی حفاظت کے لیے بنائی گئی ہے۔
سرخ لکیریں کھینچنا ناقابل قبول AI کو روکنا
EU AI ایکٹ اور اسی طرح کے فریم ورک صرف خطرے کے انتظام کے بارے میں نہیں ہیں۔ وہ ریت میں مضبوط اخلاقی لکیریں کھینچنے کے بارے میں بھی ہیں۔ کچھ AI ایپلی کیشنز کو ہمارے بنیادی حقوق کے لیے اتنا خطرناک سمجھا جاتا ہے کہ انہیں مکمل طور پر غیر قانونی قرار دیا جا رہا ہے۔ یہ وہ نظام ہیں جن کے بارے میں ریگولیٹرز کہتے ہیں کہ "ناقابل قبول خطرہ" ہے۔
ممنوعہ AI کے اس زمرے میں وہ ٹیکنالوجیز شامل ہیں جو بنیادی طور پر جمہوری اقدار اور انسانی وقار کے خلاف ہیں۔ پورا نکتہ یہ ہے کہ انتہائی ڈسٹوپیئن منظرناموں کو حقیقت بننے سے روکا جائے۔
ممنوعہ طریقوں کی فہرست مخصوص اور ہدف پر ہے:
- ہیرا پھیری کی ٹیکنالوجیز: کسی بھی شخص کے رویے کو اس انداز میں بگاڑنے کے لیے اعلیٰ ترین تکنیکوں کا استعمال کرنے والا کوئی بھی نظام جس سے انھیں جسمانی یا نفسیاتی نقصان پہنچنے کا خدشہ ہو۔
- سماجی اسکورنگ سسٹم: عوامی حکام کی جانب سے "سوشل اسکورنگ" کے لیے استعمال کیے جانے والے AI — یعنی لوگوں کے سماجی رویے یا ذاتی خصائص کی بنیاد پر ان کی قابل اعتمادی کا جائزہ لینا یا درجہ بندی کرنا — پر پابندی ہے۔
- کمزوریوں کا استحصال: AI کا استعمال کرنا بھی ممنوع ہے جو مخصوص گروہوں کی عمر یا کسی جسمانی یا ذہنی معذوری کی وجہ سے کمزوریوں کا فائدہ اٹھاتا ہے۔
یہ ممانعتیں ایک غیر واضح پیغام بھیجتی ہیں: کچھ تکنیکی راستے نیچے جانے کے لیے بہت خطرناک ہیں۔ انہوں نے بحث کے دل کو کاٹ دیا۔ AI اور فوجداری قانون موروثی طور پر بدنیتی پر مبنی یا جابرانہ مقاصد کے لیے بنائے گئے سسٹمز کی تعیناتی کو روک کر۔
نیدرلینڈز میں حقیقی دنیا کا اثر
یہ ضوابط مستقبل کے لیے تجریدی تصورات نہیں ہیں۔ وہ ابھی ایک ٹھوس اثر کر رہے ہیں. مثال کے طور پر، نیدرلینڈز میں، حکومت نے خود کو EU کی ہدایت کے ساتھ ہم آہنگ کرنے میں جلدی کی ہے۔
2025 کے اوائل سے، نیدرلینڈز خطرات کو کنٹرول کرنے کے لیے مخصوص AI سسٹمز پر پابندیاں نافذ کر رہا ہے، خاص طور پر فوجداری قانون اور پبلک سیکٹر ایپلی کیشنز میں۔ اس میں جرم کے لیے AI سے چلنے والی پیشن گوئی کے خطرے کے جائزوں کو غیر قانونی قرار دینا شامل ہے، یہ ایک ایسا عمل ہے جو پہلے پیش گوئی کرنے والی پولیسنگ میں استعمال ہوتا تھا۔
نیدرلینڈز کی تنظیموں کو ان ممنوعہ AI ٹولز کو مرحلہ وار ختم کرنے کی ضرورت تھی۔ فروری 2025 یا ریگولیٹرز سے خاطر خواہ جرمانے کا خطرہ۔ یہ فیصلہ کن کارروائی ظاہر کرتی ہے کہ حکومتیں اعلی خطرے والے AI کے ساتھ کتنی سنجیدگی سے سلوک کر رہی ہیں، جس سے کاروباری اداروں کے لیے اس کی تعمیل کرنے کے لیے ایک واضح قانونی ضرورت پیدا ہو رہی ہے۔ آپ مخصوص کے بارے میں مزید جان سکتے ہیں۔ ڈچ حکومت کی طرف سے AI پریکٹسز پر پابندی لگا دی گئی ہے۔ اور وہ تنظیموں کو کیسے متاثر کرتے ہیں۔
کاروباری اداروں اور ڈویلپرز کے لیے، ٹیک وے واضح ہے: اس نئے ریگولیٹری ماحول کو سمجھنا اور اس کے مطابق ڈھالنا اب اختیاری نہیں ہے۔ قانونی منظر نامہ مستحکم ہو رہا ہے، اور عدم تعمیل کی سزائیں سخت ہیں، جو کبھی اخلاقی تحفظات کو ٹھوس کاروباری خطرات میں تبدیل کر رہی ہیں۔ ان قوانین کو نیویگیٹ کرنا اب کسی بھی AI سسٹم کو تعینات کرنے کا ایک اہم حصہ ہے۔
آگے کی تلاش: AI کو جوابدہ رکھنے کے نئے طریقے
جیسے جیسے مصنوعی ذہانت زیادہ سے زیادہ خود مختار ہوتی جارہی ہے، ہماری موجودہ قانونی پلے بکس پرانی محسوس ہونے لگی ہیں۔ پرانے طریقے—صرف انسانی صارف یا اصل پروگرامر کی طرف انگلی اٹھانا—جب کوئی AI اپنے فیصلے خود کرنا شروع کردے تو اسے نہ کاٹیں۔ یہ حقیقت قانونی ذہنوں کو ایک بہت مشکل سوال پوچھنے پر مجبور کر رہی ہے: آگے کیا ہے؟
بات چیت احتساب کے حقیقی طور پر نئے ماڈلز کی طرف منتقل ہو رہی ہے، جو کہ جدید ترین AI کے منفرد چیلنجز کے لیے بنائے گئے ہیں۔ ہم یہاں چھوٹے موافقت کے بارے میں بات نہیں کر رہے ہیں۔ جب کسی عمل کے پیچھے "ذہن" ایک پیچیدہ الگورتھم ہوتا ہے تو الزام تفویض کرنے کا کیا مطلب ہے اس پر یہ ایک بنیادی نظر ثانی ہے۔ یہ خیالات ایک ایسی دنیا میں انصاف کے مستقبل کو تشکیل دے رہے ہیں جو دن بہ دن خودکار ہوتی جا رہی ہے۔
الیکٹرانک شخصیت پر متنازعہ بحث
میز پر سب سے زیادہ جرات مندانہ، اور سب سے زیادہ متنازعہ خیالات میں سے ایک ہے الیکٹرانک شخصیت. یہ تصور کچھ اعلی درجے کی AIs کو ایک محدود قانونی حیثیت دینا ہے، جیسا کہ ایک کارپوریشن کے ساتھ "قانونی شخص" کے طور پر سلوک کیا جاتا ہے۔ یہ AI انسانی حقوق دینے کے بارے میں نہیں ہے۔ اس کے بجائے، یہ ایک ایسی ہستی بنانے کے بارے میں ہے جو جائیداد کا مالک ہو، معاہدوں پر دستخط کر سکے، اور، سب سے اہم بات، اس سے ہونے والے نقصانات کے لیے ذمہ دار ٹھہرایا جائے۔
ایک مکمل خود مختار AI سرمایہ کاری فنڈ کا تصور کریں جو کچھ غیر متوقع تجارتی حکمت عملی کے ساتھ مارکیٹ کریش کو متحرک کرتا ہے۔ الیکٹرانک شخصیت کے ساتھ، AI کو خود ذمہ دار ٹھہرایا جا سکتا ہے، اور اس کے اثاثوں کا استعمال ان لوگوں کو واپس کرنے کے لیے کیا جا سکتا ہے جنہوں نے رقم کھو دی ہے۔ یہ احتساب کے لیے ایک ہدف بناتا ہے جب کوئی ایک انسان واضح طور پر قصوروار نہ ہو۔
پھر بھی، خیال کو کچھ سنگین پش بیک کا سامنا ہے۔
- اخلاقی خطرہ: ناقدین کو خدشہ ہے کہ یہ جیل سے باہر جانے والا کارڈ ہے۔ کیا ڈویلپرز اور کمپنیاں ذمہ داری سے بچنے کے لیے اپنی AI تخلیقات کو مورد الزام ٹھہرا سکتی ہیں؟ یہ ایک حقیقی خطرہ ہے۔
- اخلاقی خدشات: بہت سے لوگوں کے لیے، مشین کو کسی بھی قسم کی شخصیت دینا ایک خطرناک فلسفیانہ لکیر کو عبور کرتا ہے، جو لوگوں اور ٹیکنالوجی کے درمیان فرق کو دھندلا دیتا ہے۔
- عملی: یہ نظریہ میں اچھا لگتا ہے، لیکن یہ اصل میں کیسے کام کرے گا؟ AI جرمانہ کیسے ادا کرتا ہے یا "سزا ادا کرتا ہے"؟ ایک غیر انسانی وجود کو سزا دینے کے حقیقی دنیا کے چیلنجز بہت بڑے ہیں۔
سپلائی چین میں تقسیم شدہ ذمہ داری
ایک بہت زیادہ عملی اور مقبول ماڈل ہے۔ تقسیم کی ذمہ داری. ایک قربانی کے بکرے کو تلاش کرنے کے بجائے، یہ نقطہ نظر AI کی تخلیق اور تعیناتی میں شامل ہر فرد میں احتساب کو پھیلاتا ہے۔ اسے ایک بڑے تعمیراتی حادثے کی طرح سمجھیں — غلطی معمار، مواد فراہم کرنے والے، تعمیراتی فرم، اور سائٹ مینیجر کے درمیان ہو سکتی ہے۔
جب ایک AI ناکام ہوجاتا ہے، تو الزام کئی جماعتوں میں تقسیم کیا جا سکتا ہے:
- ڈیٹا فراہم کنندہ: اگر انہوں نے متعصب یا کرپٹ ٹریننگ ڈیٹا فراہم کیا۔
- الگورتھم ڈیولپر: واضح، متوقع خطرات کے ساتھ ایک نظام ڈیزائن کرنے کے لیے۔
- مینوفیکچرر: مناسب حفاظتی جانچ کے بغیر AI کو کسی پروڈکٹ میں ڈالنے کے لیے۔
- آخری صارف: سسٹم کو لاپرواہی سے استعمال کرنے یا حفاظتی انتباہات کو نظر انداز کرنے پر۔
اس ماڈل سے پتہ چلتا ہے کہ AI کی ناکامیاں اکثر نظامی مسائل ہوتے ہیں، جو مختلف لوگوں کے فیصلوں کی ایک پوری زنجیر سے پیدا ہوتے ہیں۔ یہ عمل میں شامل ہر فرد کو شروع سے آخر تک حفاظت اور اخلاقیات کو سنجیدگی سے لینے پر مجبور کرتا ہے۔
مشترکہ احتساب کا یہ خیال نیا نہیں ہے۔ یہ ان اصولوں کی عکاسی کرتا ہے جو ہم دوسرے پیشہ ورانہ شعبوں میں دیکھتے ہیں۔ جیسا کہ ہم دیکھتے ہیں کہ AI کو کیسے ہینڈل کیا جائے، یہ موجودہ فریم ورک جیسے پر غور کرنے کے قابل ہے۔ تعلیمی سالمیت کے رہنما خطوط، جس نے تعلیم میں AI کو ذمہ داری سے استعمال کرنے کے لیے مشترکہ اخلاقی معیارات کا خاکہ پیش کیا۔
بلیک باکس کے مسئلے سے نمٹنا
شاید کسی بھی مستقبل کے قانونی ماڈل کے لیے واحد سب سے بڑی رکاوٹ ہے۔ "بلیک باکس" کا مسئلہ. آج کے بہت سے طاقتور AI سسٹمز، خاص طور پر ڈیپ لرننگ ماڈل، ان طریقوں سے کام کرتے ہیں جو ان لوگوں کے لیے بھی ایک معمہ ہیں جنہوں نے انہیں بنایا تھا۔ وہ اپنا کام دکھائے بغیر جواب تھوک سکتے ہیں۔
شفافیت کی کمی اس کا پتہ لگانا ناقابل یقین حد تک مشکل بنا دیتی ہے۔ کیوں ایک AI نے ایک غلطی کی جس کی وجہ سے جرم ہوا۔ کیا یہ ڈیزائن میں کوئی خامی تھی؟ خراب ڈیٹا؟ یا کچھ عجیب، غیر متوقع سلوک جسے کسی نے آتے نہیں دیکھا؟ جوابات کے بغیر، الزام لگانا محض قیاس آرائی ہے۔
مستقبل کے کسی بھی قابل عمل قانونی فریم ورک کو زیادہ شفافیت کا مطالبہ کرنا ہوگا۔ اس کا مطلب ہے کہ واضح آڈٹ ٹریلز اور ڈیزائن کے لحاظ سے "وضاحت" جیسی خصوصیات کی ضرورت ہوتی ہے، اس بات کو یقینی بنانا کہ جب چیزیں غلط ہو جائیں، تفتیش کار کم از کم ناکامی کا ذریعہ تلاش کرنے کے لیے مشین کے ڈیجیٹل نقشوں کی پیروی کر سکتے ہیں۔
AI قانونی خطرات کو کم کرنے کے لیے ایک عملی فریم ورک
کے پیچیدہ چوراہے پر نیویگیٹنگ AI اور فوجداری قانون صرف ایک نظریاتی تفہیم سے زیادہ کی ضرورت ہے۔ یہ آپ کی قانونی نمائش کو کم سے کم کرنے کے لیے فعال، عملی اقدامات کا مطالبہ کرتا ہے۔ کسی بھی تنظیم کے لیے جو AI کو ترقی دے رہی ہے یا اس کی تعیناتی کر رہی ہے، ایک مضبوط اندرونی فریم ورک قائم کرنا صرف اچھی اخلاقیات نہیں ہے — یہ ایک اہم کاروباری ضرورت ہے کہ اس بات کو یقینی بنایا جائے کہ جب کوئی مشین جرم کرتی ہے تو آپ کو ذمہ دار نہیں ٹھہرایا جاتا ہے۔
یہ فریم ورک تین بنیادی ستونوں پر بنایا جانا چاہیے: شفافیت, انصاف، اور احتساب. ان اصولوں کو AI سسٹم بنانے کے لیے اپنے گائیڈ کے طور پر سوچیں جو نہ صرف موثر ہیں بلکہ قانونی طور پر قابل دفاع بھی ہیں۔ ان اقدار کو اپنے ترقیاتی لائف سائیکل میں شروع سے ہی شامل کرکے، آپ لاپرواہی یا لاپرواہی کے ممکنہ دعووں کے خلاف ایک طاقتور دفاع بناتے ہیں۔
اپنی AI احتسابی چیک لسٹ بنانا
ان اصولوں کو عملی جامہ پہنانے کے لیے، تنظیمیں ضروری طریقوں کی ایک واضح فہرست کو نافذ کر سکتی ہیں۔ یہ اقدامات آپ کی مستعدی کا ایک قابل تصدیق ریکارڈ بنانے میں مدد کرتے ہیں، یہ ثابت کرتے ہوئے کہ آپ نے ممکنہ نقصان کو روکنے کے لیے معقول اقدامات کیے ہیں۔
ان اہم اقدامات کے ساتھ شروع کریں:
- الگورتھمک امپیکٹ اسیسمنٹس (AIAs): اس سے پہلے کہ آپ AI سسٹم کو تعینات کرنے کے بارے میں سوچیں، آپ کو اس کے ممکنہ سماجی اثرات کا سختی سے جائزہ لینے کی ضرورت ہے۔ اس میں تعصب کے خطرات، امتیازی نتائج، اور غلط استعمال کے کسی بھی امکان کا اندازہ لگانا شامل ہے جو مجرمانہ ذمہ داری کا باعث بن سکتا ہے۔
- مضبوط ڈیٹا گورننس قائم کریں: آپ کا AI صرف اتنا ہی اچھا ہے جتنا اس کے ڈیٹا۔ یہ یقینی بنانے کے لیے سخت پروٹوکول کو نافذ کرنا بہت ضروری ہے کہ آپ کا تربیتی ڈیٹا درست، نمائندہ، اور تعصبات سے پاک ہے جو AI کو غیر قانونی فیصلے کرنے کا باعث بن سکتے ہیں۔
- محتاط آڈٹ ٹریلز کو برقرار رکھیں: AI کے آپریشنز، اس کے فیصلوں، اور کسی بھی انسانی مداخلت کے بارے میں تفصیلی لاگز رکھیں۔ کسی واقعے کی صورت میں، یہ ریکارڈ اس بات کی چھان بین کے لیے ناگزیر ہوتے ہیں کہ کیا غلط ہوا اور یہ ظاہر کرنے کے لیے کہ نظام کس طرح کام کرتا ہے۔
کسی بھی خطرے کو کم کرنے کی حکمت عملی کا ایک اہم جزو اعلیٰ داؤ پر لگائے گئے فیصلوں کے لیے 'ہیومن-ان-دی-لوپ' (HITL) سسٹمز کا نفاذ ہے۔ یہ یقینی بناتا ہے کہ ایک انسانی آپریٹر حتمی کنٹرول برقرار رکھتا ہے اور جوابدہی کے واضح سلسلے کو محفوظ رکھتے ہوئے AI کو اوور رائیڈ کر سکتا ہے۔
حتمی حفاظت کے طور پر انسانی نگرانی
'ہیومن-ان-دی-لوپ' ماڈل صرف ایک تکنیکی خصوصیت سے زیادہ ہے۔ یہ ایک قانونی ہے. اہم کارروائیوں کے لیے انسانی تصدیق کی ضرورت سے، ایک تنظیم مؤثر طریقے سے یہ دلیل دے سکتی ہے کہ AI محض ایک جدید ترین ٹول ہے، خود مختار ایجنٹ نہیں جو خود فیصلے کرتا ہے۔ یہ نقطہ نظر اس قانونی پوزیشن کو نمایاں طور پر مضبوط کرتا ہے کہ ایک انسان نے، نہ کہ مشین نے، حتمی، فیصلہ کن انتخاب کیا۔
بالآخر، ان قانونی خطرات کو کم کرنے میں ذمہ داری کا ایک ایسا کلچر بنانا شامل ہے جو پوری تنظیم پر محیط ہو۔ کی باریکیوں کو سمجھنا نیدرلینڈز میں ذمہ داری اور نقصانات کے دعوے ان داخلی پالیسیوں کو تیار کرنے کے لیے قابل قدر سیاق و سباق فراہم کر سکتے ہیں۔ مقصد AI بنانا ہے جو نہ صرف اختراعی ہو، بلکہ شفاف، اخلاقی، اور واضح طور پر انسانی کنٹرول میں ہو۔
AI اور فوجداری قانون کے بارے میں اکثر پوچھے گئے سوالات
مصنوعی ذہانت اور فوجداری قانون کا سنگم ایک مشکل علاقہ ہے، جو ابھی جوابات سے زیادہ سوالات سے بھرا ہوا ہے۔ جیسا کہ ہماری روزمرہ کی زندگیوں میں AI زیادہ بنتا جاتا ہے، یہ سمجھنا ضروری ہے کہ جب کوئی ذہین نظام کسی جرم میں ملوث ہوتا ہے تو کس کا جوابدہ ٹھہرایا جاتا ہے۔ یہاں کچھ سب سے عام سوالات ہیں جن کا ہم سامنا کرتے ہیں۔
کیا AI عدالت میں بطور گواہ کام کر سکتا ہے؟
مختصر جواب نہیں ہے، کم از کم موجودہ قانونی منظر نامے میں نہیں۔ گواہ کا تصور بنیادی طور پر انسانی ہے۔ گواہ بننے کے لیے، ایک شخص کو حلف اٹھانے کے قابل ہونا چاہیے، جو سچ کہنے کا وعدہ کرتا ہے۔ انہیں زیربحث واقعات کے بارے میں ذاتی معلومات حاصل کرنے کی بھی ضرورت ہوتی ہے اور وہ جرح کا مقابلہ کرنے کے قابل ہوتے ہیں، جہاں ان کی یادداشت، ادراک اور اعتبار کی جانچ پڑتال کی جاتی ہے۔
ایک AI صرف ان معیارات پر پورا نہیں اترتا ہے۔ اس کا کوئی شعور نہیں ہے، حلف نہیں اٹھا سکتا، اور انسانی معنوں میں ذاتی یادیں نہیں رکھتا۔ بہترین طور پر، یہ اس ڈیٹا کو پیش کر سکتا ہے جس پر اس نے کارروائی کی ہے۔ یہ ایک حقیقی گواہ کے مقابلے میں ثبوت کے ایک ٹکڑے جیسا کہ سی سی ٹی وی ریکارڈنگ کی طرح بناتا ہے۔ AI کا آؤٹ پٹ یقینی طور پر عدالت میں پیش کیا جا سکتا ہے، لیکن یہ ایک انسانی ماہر ہوگا جو اس ڈیٹا کی وضاحت کرے گا جو اصل میں گواہ کے طور پر کام کرتا ہے۔
AI کے لیے دیوانی اور مجرمانہ ذمہ داری کے درمیان کیا فرق ہے؟
جب بھی کوئی AI نقصان کا باعث بنتا ہے تو یہ فرق اہم ہوتا ہے۔ جب کہ دیوانی اور فوجداری دونوں مقدمات قانونی ذمہ داری پر مشتمل ہوتے ہیں، ان کا مقصد، ثبوت کا بوجھ، اور سزائیں الگ الگ ہیں۔
اس کے بارے میں سوچنے کا ایک سیدھا سا طریقہ یہ ہے:
- سول ذمہ داری: یہ ایک بار پھر شکار بنانے کے بارے میں ہے۔ توجہ نقصانات کے معاوضے پر مرکوز ہے، جیسے ناقص الگورتھم سے مالی نقصان یا خود مختار گاڑی سے ہونے والی چوٹیں۔ ثبوت کا معیار کم ہے - اکثر "امکانات کا توازن"۔
- مجرمانہ ذمہ داری: یہ معاشرے کے خلاف کسی غلط کی سزا دینے کے بارے میں ہے۔ اس کے لیے جرم ثابت کرنے کی ضرورت ہے "مناسب شک سے بالاتر" — ایک بہت بڑی رکاوٹ — اور قید یا بھاری جرمانے جیسی سخت سزاؤں کا باعث بن سکتی ہے۔
جب کوئی AI ملوث ہوتا ہے، تو کمپنی کو اپنی مصنوعات کی وجہ سے ہونے والے نقصانات کی ادائیگی کے لیے دیوانی مقدمے کا سامنا کرنا پڑ سکتا ہے۔ لیکن مجرمانہ الزامات پر قائم رہنے کے لیے، پراسیکیوٹر کو یہ ثابت کرنا ہوگا کہ ایک انسانی اداکار کا "مجرم ذہن" تھا (مینز ری)۔ یہی وجہ ہے کہ ذمہ داری کا پتہ کسی شخص پر لگایا جاتا ہے، مشین پر نہیں۔
میری تنظیم EU AI ایکٹ کے لیے کیسے تیاری کر سکتی ہے؟
جیسے ضوابط کے ساتھ EU AI ایکٹ افق پر، قوانین کے مکمل نفاذ تک انتظار کرنا ایک خطرناک حکمت عملی ہے۔ فعال تعمیل آپ کے قانونی خطرات کو مؤثر طریقے سے کم کرنے کا واحد طریقہ ہے۔
آپ کو شروع کرنے کے لیے چند اہم اقدامات یہ ہیں:
- اپنے AI سسٹمز کی درجہ بندی کریں: سب سے پہلے، آپ کو یہ تعین کرنے کی ضرورت ہے کہ آپ کی AI ایپلیکیشنز کس خطرے کے زمرے میں آتی ہیں—ناقابل قبول، زیادہ، محدود یا کم سے کم۔ یہ درجہ بندی آپ کی مخصوص تعمیل کی ذمہ داریوں کا تعین کرے گی۔
- خطرے کی تشخیص کا انعقاد: کسی بھی اعلی خطرے والے نظام کے لیے، آپ کو بنیادی حقوق کو پہنچنے والے ممکنہ نقصانات کی شناخت اور ان سے نمٹنے کے لیے مکمل تشخیص کرنا چاہیے۔ یہ صرف باکس ٹک کرنے کی مشق نہیں ہے۔ یہ آپ کے سسٹم کے اثرات میں گہری ڈوبکی ہے۔
- شفافیت اور دستاویزات کو یقینی بنائیں: اپنے AI کے ڈیزائن، تربیت کے لیے استعمال کیے جانے والے ڈیٹا سیٹس، اور اس کے فیصلہ سازی کے عمل کے باریک بینی سے ریکارڈ رکھیں۔ اگر کبھی کوئی واقعہ پیش آتا ہے تو یہ دستاویزات تعمیل اور جوابدہی کا مظاہرہ کرنے کے لیے ضروری ہیں۔
