کتابخانه عمومی حسینیه ارشاد در تاریخ 18 فروردین 1397 هفتاد و چهارمین نشست از نشست‌های علم اطلاعات و دانش‌شناسی را با موضوع اخلاق مدیریت داده از ساعت16:30 با پخش آیاتی از کلام‌الله مجید، سرود ملی و کلیپ معرفی فعالیت‌های کتابخانه آغاز کرد. سخنرانان این نشست آقایان دکتر علیرضا ثقه الاسلامی و دکتر مهدی شقاقی بودند.

اهم سخنان دکتر مصطفی امینی
امیدوار هستم تا پایان فصل بهار بتوانیم یک دور کامل چرخه و مدل مفهومی که موسسه داما در حوزه مدیریت داده بیان کرده را مرور کنیم. در نسخه دوم کتاب مدیریت داده موسسه داما، فصلی آمده با عنوان اخلاق مدیریت داده (Data Handling Ethics) اما موسسه داما این اخلاق مدیریت داده را به عنوان یک ديسيپلين مثل معماری داده مطرح نمي¬کند. يا به عنوان مثال در اين كتاب از معماري داده و مديريت آن به عنوان يك ديسيپلين مستقل نام برده است و در مدل مفهومي خود جاي مستقلي برايش قائل است  اما در رابطه با موضوع اخلاق مدیریت داده با توجه به اين در فصل هاي ابتدايي كتاب به آن اشاره كرده اما به عنوان ديسيپلين مستقل در مدل مفهومي خود نامي نبرده است. اين به معناي كم اهميت بودن موضوع اخلاق مديريت داده نيست بلكه به معناي اين است كه حكمراني داده و مديريت داده به يك فعاليت چتري و فراگير احتياج دارد كه در چارچوب شاخص ها و معيارها و اصول اخلاق حرفه اي جا مي گيرد. اصول و ارزشهاي اخلاقي بايد در كليه فعاليتها، از حكمراني داده گرفته تا مديريت داده جايگاه ويژه داشته باشد. يعني مي توان اخلاق را شبیه به یک چتر در بالای تمام موضوعات مدیریت داده تصور کرد. همچنین بايد دقت داشت كه موضوع حکمرانی داده یک ارتباط تنگاتنگ با اخلاق داده دارد.
براي واژه Data Handling Ethics مي توان معادل هاي فارسي مختلفي انتخاب كنيم. معادل هايي همچون اخلاق هندل كردن داده ها، اخلاق اداره كردن داده ها،‌ اخلاق رسيدگي به داده ها، و اخلاق مديريت داده. ما معادل آخر را برگزيديم به اين علت كه اولا يكي از مترادف هاي پركاربرد Handle واژه Management است و ثانيا عرفاً ‌مديريت داده ملموس از اداره كردن داده است.
موضوع اخلاق مديريت داده را مي توان از چند منظر بررسي كرد كه اين ديدگاه ها در جدول زير خلاصه سازي شده اند:

    اخلاق حرفه اي    اخلاق اطلاعات
    ميكرو اخلاق    ماكرو اخلاق    ميكرو اخلاق    ماكرو اخلاق
اخلاق نظري               
اخلاق كاربردي               

موضوع اخلاق مديريت داده در حوزه كلان¬داده يا Big Data اهميت بيشتري پيدا مي كند که متاسفانه از آن غفلت می‌شود و برخی به اشتباه آن را به حفظ حریم خصوصی تقلیل می‌دهند. دغدغه اخلاق مدیریت داده این هست که اگر چرخه حیات داده را در نظر بگیریم، از زمانی که داده تولید می‌شود و روی آن پردازش می‌شود تا انتهای چرخه حیات داده که اصطلاحا داده بازنشسته می‌شود، بتوان روی کل چرخه عمر مدیریت داده یک رفتار اخلاقی داشت. رفتار اخلاقی روی داده می‌تواند در بحث به اشتراك گذاري داده باشد، مثلا یک رفتار منصفانه در توزیع داده داشته باشد . مي تواند در بخش تحليل داده باشد مثلا در پردازش و تحليل داده ها به رعاليت حريم خصوصي مقيد باشيم. 
هر شخص یا شرکتی که داده ها را در اختیار دارد، به رعايت كدهاي اخلاقي متعهد باشد و اصول اخلاقي در تمام مراحل فرآيند مديريت داده جاسازي شده باشند. به عنوان مثال تمام اپلیکیشن‌هایی که ما روی گوشي موبایل خود نصب می‌کنیم، به بسیاری از اطلاعات شخصی ما دسترسی دارند و سوال اینجاست که آیا می‌توان برای چنین شرکت‌هایی که اطلاعات انبوهی از ما را جمع‌آوری، ذخیره و پردازش می‌کنند، مجموعه‌ای کدهای اخلاقی در نظر گرفت؟. به عنوان مثال، يكي راه هاي توجه به اين كدهاي اخلاقي، آموزش مستمر پرسنل است. يعني در موضوع اخلاق مدیریت داده، یک بعد آن آموزش پرسنل هست، که همان بعد انسانی است. یک سری از کدهای اخلاقی و شاخص‌های اخلاقی را از طریق سیاست‌هایی که تیم حکمرانی داده تعیین می‌کند، مي توان از طریق آیین‌نامه‌ها و فرآیندها در سازمان جاری کرد و به گونه‌ای فرآیندها اصلاح شوند که اصول اخلاقی حفظ شوند.
اصول اخلاقی متاسفانه در کشور ما مغفول مانده. تمام شرکت‌ها دغدغه پردازش اطلاعات را دارند که علایق مشتریانشان را پیشبینی کنند تا محصولاتشان را به فروش برسانند. در نتیجه نگاه قالب در بازار کار، نگاه پردازش است اما آيا اين پردازش مبتني بر اصول و ارزشهاي اخلاق داده ها هست يا نه ؟

اهم سخنان دکتر علیرضا ثقه الاسلامی
من نمی‌خواهم در حیطه اخلاق مدیریت داده بحث کنم، بلکه تصمیم دارم بحثم را پیش از این مطرح کنم و مسئله را بنیادی تر از دیدگاه مدیریتی صرف نگاه کنم و از آن به عنوان ضرورت نگرش به اخلاق داده‌ها به مثابه یک کلان اخلاق (Macro Ethics) نام می‌برم.
در نسبت بین اخلاق و علم داده ()  Data Science، باید توجه داشت که علم داده ها یک حوزه مطالعات میان رشته‌ای است، متخصصینی از مهندسی ترین رشته‌ها تا علوم پایه را پوشش می‌دهد تا فرآیند پردازش اطلاعات و فرآیند تعامل با داده را از تولید تا انهدام بتواند مدیریت کند و از قبل این فرآیند ارتقای کمی و کیفی زندگی ما را حاصل شود. نکته مهمی که وجود دارد این است که علم داده مانند بسیاری از علوم دیگر، خنثی نیست. ما فرض را بر این میگذاریم که علم ارزش‌بار است، پس علم داده نیز ارزش بار است و به تبع آن قطعا دچار چالش‌هایی اخلاقی، اجتماعی و فرهنگی هستند. چالش‌های اخلاقی متعددی حول بهره‌مندی از علم‌ داده در سه سطح آشکار می‌شود:
1.    در سطح داده‌ها: تولید انبوه داده‌های شخصی و استفاده فزاینده از آنها برای ارائه خدمات
2.    در سطح الگوریتم‌ها: وابستگی فزاینده به الگوریتم‌هایی برای تحلیل این داده‌ها به منظور شکل‌گیری انتخاب‌ها و اتخاذ تصمیم‌ها
3.    در سطح اقدام‌ها یا فعالیت‌ها: کاهش تدریجی دخالت انسانی بر بسیاری از پردازش‌های اتوماتیک، و حرکت به سوی تحقق عدالت اجتماعی و فرصت‌های منصفانه، مسئولیت‌پذیری و احترام به حقوق بشر و مواردی از این نوع. كه معمولا موضوع اخلاق مديريت داده در اين سطح قرار مي گيرد.
در اینجا نکته دارای اهمیت این است که فقدان توجه به توسعه توأمان اخلاق و علم داده‌ها می‌تواند پیامدهای ناگواری را به همراه داشته باشد. از یک‌سو غفلت از موضوعات اخلاقی در پروژه‌های مرتبط با علم داده‌ می‌تواند آثار منفی متعددی را به همراه داشته باشد که در نهایت به عدم پذیرش و فقدان مقبولیت اجتماعی این پروژه‌ها خواهد انجامید. از سوی دیگر، تاکید بسیار بر حفاظت از حقوق فردی در پروژه‌های مرتبط با علم داده می‌تواند منجر به وضع مقررات سخت‌گیرانه‌ای شود که امکان تحقق موقعیت‌هایی مناسب برای شکوفایی ارزش‌های اجتماعی در علم داده را دستخوش تهدید نماید.
از این‌رو می‌توان وظیفه اصلی حوزه مطالعاتی «اخلاق داده‌ها» را حرکت مطلوب در این وضعیت پارادوکسیکال میان «عدم پذیرش اجتماعی» و «ممانعت حقوقی و اخلاقی» برای دستیابی به راه‌حل‌هایی با حداکثر ارزش‌های اخلاقی در پروژه‌های مرتبط با علم داده برشمرد.
اخلاق داده‌ها را می‌توان اینگونه تعریف کرد: شاخه‌ای از اخلاق است که به مطالعه و ارزیابی مسائل اخلاقی مرتبط با داده‌ها (از قبیل تولید، ضبط، گزینش، پردازش، انتشار، اشتراک‌گذاری، و استفاده)؛ مسائل اخلاقی مرتبط با الگوریتم‌ها (از قبیل شامل هوش مصنوعی، عامل‌های مصنوعی، و یادگیری ماشین)، و مسائل اخلاقی مرتبط با اقدام‌های مرتبط (از قبیل نوآوری مسئولانه، برنامه‌نویسی، رخنه‌گری، کدهای اخلاق حرفه‌ای) می‌پردازد و به‌دنبال صورتبندی و حمایت از راه‌حل‌های اخلاقی مناسب است.
این تعریف، متضمن سه محور پژوهشی است که چالش‌های اخلاقی مترتّب بر علم داده‌ها را در فضای مفهومی مشترکی تصویر می‌کند: اخلاق در داده‌ها، اخلاق در الگوریتم‌ها، و اخلاق در اقدام‌ها.    
1) اخلاق در داده‌ها (ethics of data): به مسائل اخلاقی مرتبط با گردآوری و تحلیل حجم بزرگی از پایگاه داده‌ها می‌پردازد و طیف موضوعات اخلاقی گسترده‌ای را پوشش می‌دهد: استفاده از کلان‌داده‌ها در تحقیقات پزشکی و علوم اجتماعی، نمایه‌سازی داده‌ها، بهره‌برداری از داده‌ها در تبلیغات، استفاده بشردوستانه از داده‌ها، داده‌های باز و مواردی از نوع.
2) اخلاق در الگوریتم‌ها (ethics of algorithms): به مسائل اخلاقی مرتبط با فرآیند طراحی الگوریتم‌ها و افزایش پیچیدگی و خودمختاری آنها برای استفاده در هوش مصنوعی، عامل‌های مصنوعی و خصوصا در پروژه‌های مرتبط با یادگیری ماشین می‌پردازد. بررسی ملاحظات اخلاقی در طراحی الگوریتم‌ها نیازمند مطالعات اجتماعی و فرهنگی گسترده‌ای است که متاسفانه در بیشتر موارد (و عمدتا به دلایل اقتصادی) انجام نمی‌شود.
3) اخلاق در اقدام‌ها (ethics of practices): به مسائل اخلاقی مرتبط با اخلاق حرفه‌ای و رعایت کدهای رفتاری مهندسان و متخصصان علم داده‌ها می‌پردازد. در اینجا عمده مسائل اخلاقی در رابطه با مسئولیت‌پذیری افراد و سازمان‌ها در برابر فرآیندها، استراتژی‌ها و سیاست‌های داده‌ای است. این موارد با هدف تعریف چارچوبی برای تنظیم کدهای اخلاق حرفه‌ای برای نوآوری، توسعه و بهره‌برداری مسئولانه تحقق می‌یابد. این کدهای اخلاقی می‌تواند به گسترش اقدامات اخلاقی در پیشرفت علم داده‌ها و همچنین حمایت از حقوق افراد و گروه‌ها کمک قابل توجهی نماید.
اگرچه این سه قلمرو اخلاقی، از سه محور پژوهشی متمایز برخوردارند، اما با مسائل و ارزش‌های اخلاقی سروکار دارند. از این رو لازم است فضای مفهومی مشترکی را فرض نمود که مسائل اخلاقی متعدد در اخلاق داده‌ها توأمان ذیل محورهای پژوهشی سه‌گانه مورد نظر بررسی شوند، چرا که عمده این مسائل اخلاقی را نمی‌توان ذیل تنها یک محور پژوهشی تحلیل کرد. این استراتژی در صورتی تحقق خواهد یافت که اخلاق داده‌ها از ابتدا به عنوان یک نظریه کلان‌اخلاق (macro-ethics) معرفی و توسعه یابد.
این بدان معناست که حوزه مطالعاتی اخلاق داده‌ها باید به منزله یک «منظومه هندسی اخلاقی» تلقی شود که از رویکردهای محدود و استعلاجی برای تحلیل مسائل و چالش‌های اخلاقی در اخلاق داده‌ها اجتناب نماید. بر این اساس، اخلاق داده‌ها برای تجزیه و تحلیل مناسب مسائل اخلاقی خود باید در قالب منظومه‌ای هندسی، مجموعه متنوعی از مفاهیم و دلالت‌های اخلاقی در علم داده‌ها را درون چارچوبی سازگار (و نه متناقض)، کلی‌نگر (و نه جزءنگر) و فراگیر (و نه انحصاری) تهیه و تدوین نماید.

اهم سخنان دکتر مهدی شقاقی
مایکل سندل در درس‌گفتار اخلاق خود در نقد سودگرایانه مثالی مطرح کرده و من از همان مثال استفاده می‌کنم و مفهوم جدیدی را مطرح می‌کنم و آن «اثر فاصله» است. شما وقتی با آن عمل اخلاقی که می‌خواهید انجام دهید یا تصمیم اخلاقی که می‌خواهيد اتخاذ کنید، هرچقدر فاصله نزدیکتری داشته باشید، آن کنش یا تصمیم اخلاقی برای شما نزدیک‌تر و اخلاقی‌تر می‌شود. هرچقدر فاصله ما نسبت به آن عمل بیشتر می‌شود، انجام آن عمل برای ما راحتتر می‌شود، این را اصطلاحا می‌گوییم اثر فاصله؛ که در اخلاق فناوری یک نکته فوق‌العاده کلیدی است. چرا ما در محیط فناورانه به اعمال غیر اخلاقی راحت تر مرتکب می‌شویم، یکی از مهمترین دلایلش اثر فاصله است. ما با نتایج اعمالمان بسیار فاصله داریم، بعضا غیر قابل پیش‌بینی هستند. ما با بدن کنشگران تعامل مستقیم نداریم، بلکه ما با واسطه به ابزارها و تکنولوژی‌ها و داده‌هایی که با چند واسطه به افراد دیگر مرتبت می‌شوند، ما سر و کار داریم.
یکی از مهمترین چالش‌هایی که در محیط فناورانه با آن روبرو هستیم چالش یا موقعیت تناقض‌آمیز «شفافیت» است. چالش شفافیت می‌گوید ما اطلاعات و داده‌های خود را شفاف در اختیار سازمان و شرکت‌ها قرار می‌دهیم اما اینکه آنها با این اطلاعات و داده‌ها چه می‌کنند را ما نمی‌دانیم و شفاف نیست. یادمان نرود اخلاق مدیریت داده در چارچوب سازمان یا نهاد قابل طرح است. علت آن است که داده‌های بزرگ، عموما در اختیار سازمان است، نه افراد. بنابراین وقتی از اخلاق مدیریت داده سخن می‌کنیم طرف حساب ما معمولا سازمان‌ها و نهادها هستند.
چالش دیگری که موقعیت متناقض ایجاد می‌کند، بحران «هویت» است. انسان‌ها علاقه دارند، هویت خودشان را خودشان شکل دهند و خودشان بر هویت خودشان تسلط داشته باشند، اما حاصل پردازش داده‌ها توسط شرکت‌ها یا سازمان‌ها ممکن است بازنمایی کردن هویت‌هایی از آنها بشود که آنها خواهان آن نیستند.

چالش دیگر، موقعیت متناقض «قدرت» است. در اینجا مطرح می‌شود که ما به عنوان دهنده داده و شرکت و سازمان به عنوان گیرنده داده در موقعیت نابرابر قدرت قرار داریم. هرچه ما داده‌های بیشتری را به سازمان‌ها و فروشگاه‌های مختلف ارائه می‌دهیم، از قدرت ما کاسته و به قدرت سازمان و شرکت‌های مقابل افزوده می‌شود. در حالی که در تعاملات معمول آن است که هر شخص به همان تناسب که دهنده است باید گیرنده هم باشد و هرچقدر پرداخت می‌کند باید به همان نسبت سود دریافت کند. اما در موقعیت داده‌ای اینگونه نیست. ما به اندازه‌ای که دهنده هستیم، چیزی دریافت نمی‌کنیم.

در پاسخ به این تناقضات ممکن است گفته شود چنانچه حقوق افراد رعایت شود دیگر نباید نگرانی ای بابت چنین چالش‌هایی وجود داشته باشد و اگر حقوق رعایت شود دیگر نیازی به اخلاق نیست. آنگاه جایگاه اخلاق کجاست؟ آیا باید حقوق و اخلاق را با هم بیامیزیم و اینها دو چیز واحد هستند و یا نه اینها دو چیز مجزا هستند؟ من می‌خواهم بگویم اخلاق مدیریت داده را از مسائل حقوق مديريت داده جدا کنیم. ممکن است یک لایه حقوق داشته باشد اما لازم است ما به یک لایه بالاتر از آن لایه حقوقی برویم. اگر ما بیاییم حقوق را در درون اخلاق قرار دهیم، آنهایی که می‌خواهند فقط حقوق را رعایت کنند را ملتزم به رعایت اخلاق هم می‌کنیم و درنتیجه مرتک ظلم نیز می‌شویم و این ظلم خود غیر اخلاقی است. از طرف دیگر اگر بخواهیم اخلاق را در درون حقوق جای دهیم کار ناصوابی انجام داده‌ایم. با اینکار عمل اخلاقی دیگر دارای فضیلت نخواهد بود. آنچه قاعده اخلاقی است که بتوان از دل آن تمام فضیلت‌ها را بدست آورد؟ به نظر من آن قاعده «عدل» است. به نظر من تمام آن قواعدی که در اخلاق مدیریت داده مطرح است در این قاعده «عادلانه» وجود دارد. در اخلاق مدیریت داده برای آنکه بتوانیم در محیط فناورانه اخلاقی عمل کنیم، بر سه چیز تاکید شده است. ۱- حریم خصوصی ۲- توافق یا رضایت ۳- استفاده ثانویه. به نظر من هر سه را میتوان ذیل قاعده «عدالت» دید.
برای شنیدن فایل صوتی این نشست اینجا و برای مشاهده اسلاید اینجا را کلیک کنید.