این سند با هدف تبیین اصول اخلاقی، مسئولیت اجتماعی و الزامات مرتبط با توسعه و به‌کارگیری هوش مصنوعی در شرکت تهیه شده است. مبانی این سند بر اساس استانداردها و چارچوب‌های معتبر بین‌المللی، قوانین و مقررات داخلی، اسناد بالادستی و همچنین اقتضائات فرهنگی، اجتماعی و حرفه‌ای کشور تدوین شده است.
هدف از تهیه این پیوست، ایجاد یک چارچوب مشخص برای رعایت اصول اخلاقی و مسئولیت اجتماعی در تمامی مراحل طراحی، توسعه، استقرار و استفاده از راهکارهای هوش مصنوعی در شرکت است.
این سند تلاش می‌کند ضمن ایجاد زمینه برای استفاده مسئولانه و اثربخش از فناوری‌های هوش مصنوعی، مخاطرات احتمالی آن را شناسایی و راهکارهایی برای پیشگیری، کنترل و کاهش این مخاطرات ارائه کند.
هوش مصنوعی به‌عنوان یکی از فناوری‌های تحول‌آفرین، فرصت‌های گسترده‌ای برای بهبود فرآیندها، افزایش بهره‌وری، توسعه خدمات و ایجاد ارزش برای سازمان‌ها و جامعه فراهم کرده است. در کنار این فرصت‌ها، استفاده از هوش مصنوعی می‌تواند چالش‌هایی در زمینه‌هایی همچون حریم خصوصی، امنیت داده، تبعیض، شفافیت، اشتغال، مسئولیت‌پذیری و اعتماد عمومی ایجاد کند.
از این رو، توسعه و استفاده از هوش مصنوعی نیازمند توجه هم‌زمان به جنبه‌های فنی، اقتصادی، حقوقی، اخلاقی و اجتماعی است.
گسترش استفاده از ابزارها و سامانه‌های مبتنی بر هوش مصنوعی در محیط‌های کاری، ضرورت تدوین قواعد مشخص برای استفاده مسئولانه از این فناوری را بیش از گذشته نمایان کرده است. استفاده بدون ضابطه از ابزارهای هوش مصنوعی می‌تواند منجر به افشای اطلاعات محرمانه، نقض حقوق مالکیت فکری، تولید اطلاعات نادرست یا ایجاد تصمیمات ناعادلانه شود.
بر همین اساس، رعایت اصول اخلاقی و مسئولیت اجتماعی باید به‌عنوان بخشی جدایی‌ناپذیر از فرآیند توسعه و بهره‌برداری از راهکارهای هوش مصنوعی در نظر گرفته شود.
تمامی همکاران، پیمانکاران و مشاورانی که در فرآیند تولید محتوا، تحلیل اطلاعات، طراحی، برنامه‌نویسی، تصمیم‌سازی یا سایر فعالیت‌های مرتبط با پروژه‌های شرکت از ابزارهای هوش مصنوعی استفاده می‌کنند، موظف‌اند استفاده از این ابزارها را مطابق ضوابط داخلی شرکت اعلام کنند.
در استفاده از ابزارهای هوش مصنوعی باید موارد زیر مورد توجه قرار گیرد:
اخلاق هوش مصنوعی مجموعه‌ای از اصول، ارزش‌ها و چارچوب‌هایی است که به منظور هدایت طراحی، توسعه و استفاده مسئولانه از سامانه‌های هوش مصنوعی تدوین می‌شود. هدف اصلی آن اطمینان از این است که فناوری در راستای منافع انسان و جامعه مورد استفاده قرار گیرد و از ایجاد آسیب‌های قابل پیشگیری جلوگیری شود.
برخی از مهم‌ترین چالش‌های اخلاقی در حوزه هوش مصنوعی عبارت‌اند از:
مسئولیت اجتماعی سازمانی به معنای تعهد سازمان نسبت به آثار اقتصادی، اجتماعی، محیط‌زیستی و انسانی فعالیت‌های خود است. در حوزه هوش مصنوعی، این مسئولیت اهمیت بیشتری پیدا می‌کند؛ زیرا تصمیمات و خروجی‌های سامانه‌های هوشمند می‌توانند بر افراد، سازمان‌ها و جامعه تأثیر مستقیم داشته باشند.
بنابراین لازم است توسعه و استفاده از هوش مصنوعی علاوه بر شاخص‌های فنی و اقتصادی، از منظر آثار اجتماعی و اخلاقی نیز ارزیابی شود.
این سند تمامی فعالیت‌ها، پروژه‌ها، محصولات و خدماتی را که به نحوی با طراحی، توسعه، استقرار، خرید، استفاده یا نگهداری سامانه‌های هوش مصنوعی در ارتباط هستند، دربرمی‌گیرد.
مخاطبان این سند شامل مدیران، کارکنان، کارشناسان، توسعه‌دهندگان، طراحان، مشاوران، پیمانکاران و سایر ذی‌نفعان مرتبط با پروژه‌های هوش مصنوعی شرکت هستند.
مسئولیت اجتماعی در حوزه هوش مصنوعی را می‌توان در ابعاد مختلف مورد بررسی قرار داد:
توسعه و استفاده از هوش مصنوعی در ایران علاوه بر چالش‌های عمومی این فناوری، با مسائل و اقتضائات بومی نیز مواجه است. محدودیت‌های زیرساختی، دسترسی نابرابر به فناوری، الزامات قانونی، مسائل مرتبط با داده‌های فارسی و ویژگی‌های فرهنگی و اجتماعی کشور از جمله موضوعاتی هستند که باید در طراحی و پیاده‌سازی راهکارهای هوش مصنوعی مورد توجه قرار گیرند.
برای تبدیل اصول اخلاقی و مسئولیت اجتماعی به اقدامات عملی، لازم است فرآیند مشخصی برای شناسایی، ارزیابی و مدیریت ریسک‌های اخلاقی و اجتماعی پروژه‌های هوش مصنوعی ایجاد شود.
استفاده از هوش مصنوعی در شبکه بانکی کشور به دلیل ارتباط مستقیم با اطلاعات مالی، داده‌های شخصی و تصمیمات اثرگذار بر زندگی افراد، نیازمند حساسیت و دقت بیشتری است. در این حوزه، رعایت اصول اخلاقی، امنیتی و حقوقی باید از مراحل اولیه طراحی محصول تا زمان بهره‌برداری و ارزیابی مستمر آن مورد توجه قرار گیرد.
برخی از مهم‌ترین حوزه‌های کاربرد هوش مصنوعی در شبکه بانکی عبارت‌اند از:
در توسعه و استقرار راهکارهای هوش مصنوعی در شبکه بانکی، رعایت قوانین و مقررات مرتبط با حفاظت از اطلاعات، محرمانگی داده‌ها، امنیت سایبری، حقوق مشتریان و الزامات نظارتی ضروری است.
جمع‌بندی: توسعه مسئولانه هوش مصنوعی مستلزم ایجاد تعادل میان نوآوری، منافع کسب‌وکار، حقوق افراد و منافع جامعه است. رعایت اصول اخلاقی و مسئولیت اجتماعی باید بخشی از چرخه عمر تمامی پروژه‌های هوش مصنوعی باشد و از مرحله ایده‌پردازی تا طراحی، توسعه، استقرار و ارزیابی مستمر ادامه پیدا کند.