الکتروهایو

هوش مصنوعی / الکترونیک / برنامه‌نویسی

دیدگاهتان را بنویسید

نشانی ایمیل شما منتشر نخواهد شد. بخش‌های موردنیاز علامت‌گذاری شده‌اند *

ضروریات اخلاق در هوش مصنوعی و جامعه‌ای که به دنبال رشد است

ضروریات اخلاق در هوش مصنوعی در الکتروهایو
در این مقاله می‌خوانید:

زمان تخمینی مطالعه: 7 دقیقه

مسائلی وجود دارند که در خط مقدم ضروریات اخلاق در هوش مصنوعی در دنیای واقعی هستند. برخی از این موارد عبارتند از:

مدل‌های پایه و هوش مصنوعی مولد

انتشار ChatGPT در سال 2022 نقطه عطف واقعی برای هوش مصنوعی بود. توانایی‌های ربات چت شرکت OpenAI  از نوشتن خلاصه‌های قانونی گرفته تا اشکال‌زدایی کدها مجموعه جدیدی از امکانات را برای آنچه که هوش مصنوعی می‌تواند انجام دهد و چگونه می‌توان آن را در تقریباً همه صنایع اعمال کرد، باز کرد. چت جی پی تی و ابزارهای مشابه بر اساس مدل‌های پایه‌ی هوش مصنوعی ساخته شده‌اند که می‌توانند با طیف وسیعی از وظایف پایین دستی سازگار شوند.

 مدل‌های بنیاد معمولاً مدل‌های مولد در مقیاس بزرگ هستند که از میلیاردها پارامتر تشکیل شده‌اند که بر روی داده‌های بدون برچسب با استفاده از نظارت شخصی آموزش داده می‌شوند. این کار به مدل‌های پایه اجازه می‌دهد تا به سرعت آنچه را که در یک زمینه آموخته‌اند را در زمینه دیگری اعمال کنند، و آنها را بسیار سازگار و قادر به انجام طیف گسترده‌ای از وظایف مختلف می‌کند. با این حال، بسیاری از مسائل بالقوه و نگرانی‌های اخلاقی در مورد مدل‌های بنیادی وجود دارد که معمولاً در صنعت فناوری مانند سوگیری، تولید محتوای نادرست، عدم قابلیت توضیح، استفاده نادرست و تأثیر اجتماعی شناخته می‌شوند. بسیاری از این مسائل به طور کلی با هوش مصنوعی مرتبط هستند، اما با توجه به قدرت و در دسترس بودن مدل‌های پایه، فوریت جدیدی پیدا می‌کنند.

یکتایی تکنولوژیکی

در حالی که ضروریات اخلاق در هوش مصنوعی توجه عمومی زیادی را به خود جلب می‌کند، بسیاری از محققان نگران این ایده نیستند که هوش مصنوعی در آینده نزدیک از هوش انسانی پیشی بگیرد. این مفهوم به عنوان ابرهوش نیز شناخته می‌شود، که نیک بوستروم آن را به عنوان «هر عقلی که عملاً در هر زمینه‌ای، از جمله خلاقیت علمی، خرد عمومی، و مهارت‌های اجتماعی، بسیار بهتر از بهترین مغزهای انسان عمل می‌کند» تعریف می‌کند.

علیرغم این واقعیت که هوش مصنوعی و ابرهوش قوی در جامعه قریب الوقوع نیست، ایده آن سؤالات جالبی را ایجاد می‌کند زیرا ما استفاده از سیستم‌های خودران مانند اتومبیل‌های خودران را در نظر می‌گیریم. این غیرواقعی است که فکر کنیم یک خودروی بدون راننده هرگز دچار سانحه رانندگی نمی‌شود، اما در این شرایط چه کسی مسئول و مقصر است؟ آیا هنوز باید وسایل نقلیه خودران را دنبال کنیم یا ادغام این فناوری را محدود می‌کنیم تا فقط وسایل نقلیه نیمه خودران ایجاد کنیم که ایمنی را در بین رانندگان ارتقا می‌دهد؟ هیئت منصفه هنوز در این مورد صحبت نمی‌کند، اما این‌ها انواع بحث‌های اخلاقی هستند که با توسعه فناوری جدید و خلاقانه هوش مصنوعی در حال وقوع هستند.

تاثیر هوش مصنوعی بر مشاغل

در حالی که بسیاری از افکار عمومی درباره هوش مصنوعی بیشتر بر روی از دست دادن شغل افراد متمرکز است، این نگرانی احتمالاً باید دوباره اصلاح شود. زیرا با هر فناوری جدید و به ظاهر مخربی که می‌بینیم تقاضای بازار برای نقش‌های شغلی خاص تغییر می‌کند. به عنوان مثال، وقتی به صنعت خودرو نگاه می‌کنیم، بسیاری از تولیدکنندگان، بر روی تولید خودروهای الکتریکی تمرکز می‌کنند تا با ابتکارات سبز هماهنگ شوند. با این کار صنعت انرژی از بین نمی‌رود، اما منبع انرژی در حال تغییر از مصرف سوخت به برق است. هوش مصنوعی باید به روشی مشابه مورد بررسی قرار گیرد، جایی که هوش مصنوعی تقاضای مشاغل را به بخش‌‌های دیگر منتقل می‌کند.

با رشد و تغییر هر روز داده‌ها، باید افرادی وجود داشته باشند که به مدیریت این سیستم‌ها کمک کنند. برای رسیدگی به مشکلات پیچیده‌تر در صنایعی که احتمالاً تحت تأثیر تغییرات تقاضای شغلی قرار می‌گیرند، مانند خدمات به مشتریان، هنوز هم باید منابعی وجود داشته باشد. جنبه مهم ضروریات اخلاق در هوش مصنوعی و تأثیر آن بر بازار کار، کمک به انتقال افراد به این حوزه‌های جدید تقاضای بازار است.

حریم خصوصی

حریم خصوصی معمولاً در زمینه محرمانگی داده‌ها، حفاظت و امنیت داده‌ها مورد بحث قرار می‌گیرد، و این نگرانی‌ها به سیاست گذاران اجازه داده است در سال‌های اخیر گام‌های بیشتری در این حوزه بردارند. به عنوان مثال، در سال 2016، قانون GDPR برای محافظت از داده‌های شخصی افراد در اتحادیه اروپا و منطقه اقتصادی اروپا ایجاد شد و به افراد کنترل بیشتری بر داده‌های خود داد.

در ایالات متحده، ایالت‌های جداگانه در حال توسعه سیاست‌هایی هستند، مانند قانون حفظ حریم خصوصی مصرف کنندگان کالیفرنیا (CCPA) که از کسب و کارها می‌خواهد که مصرف کنندگان را در مورد جمع آوری داده‌های خود آگاه کنند. این قانون اخیر شرکت‌ها را مجبور کرده است که در نحوه ذخیره و استفاده از داده‌های شناسایی شخصی (PII) تجدید نظر کنند. در نتیجه، سرمایه‌گذاری در حوزه امنیت به اولویت فزاینده‌ای برای کسب‌وکارها تبدیل شده است، زیرا آنها به دنبال حذف هرگونه آسیب‌پذیری و فرصت‌هایی برای نظارت، هک و حملات سایبری هستند.

تعصب و تبعیض

مواردی از تعصب و تبعیض(Bias and discrimination) در تعدادی از سیستم‌های هوشمند، سوالات اخلاقی زیادی را در مورد ضروریات اخلاق در هوش مصنوعی ایجاد کرده است. چگونه می‌توانیم در برابر تعصب و تبعیض محافظت کنیم، وقتی مجموعه داده‌های آموزشی می‌توانند خود را در معرض تعصب قرار دهند؟ در حالی که شرکت‌ها معمولاً اهداف خوبی در مورد تلاش‌های اتوماسیون خود دارند، آمازون در تلاش خود برای خودکارسازی و ساده‌سازی یک فرآیند، ناخواسته نامزدهای شغلی بالقوه را بر اساس جنسیت برای نقش‌های فنی باز جدا کرد و در نهایت مجبور شدند پروژه را کنار بگذارند. با ظهور رویدادهایی مانند این، هاروارد بیزینس ریویو سؤالات مهم دیگری را در مورد استفاده از هوش مصنوعی در شیوه‌های استخدام مطرح کرده است، مانند اینکه هنگام ارزیابی یک نامزد برای یک نقش باید از چه داده‌هایی استفاده کنید.

تعصب و تبعیض به عملکرد منابع انسانی نیز محدود نمی‌شود. می‌توان آن را در تعدادی از برنامه‌های کاربردی از نرم افزار تشخیص چهره گرفته تا الگوریتم‌های رسانه‌های اجتماعی یافت. همانطور که کسب‌وکارها از خطرات هوش مصنوعی آگاه‌تر می‌شوند، بحث در مورد اخلاق و ارزش‌های هوش مصنوعی نیز فعال‌تر شده است. به عنوان مثال، سال گذشته، مدیرعامل IBM، آرویند کریشنا، به اشتراک گذاشت که IBM محصولات تشخیص و تجزیه و تحلیل چهره IBM با هدف کلی خود را پایان داده است، و تأکید کرد که «IBM قاطعانه مخالف استفاده از هر فناوری، از جمله فناوری تشخیص چهره ارائه شده توسط سایر فروشندگان، برای نظارت، مشخصات نژادی، نقض حقوق و آزادی‌های اولیه بشر، یا هر هدفی که با ارزش‌ها و اصول اعتماد و شفافیت ما سازگار نیست می‌باشد.»

مسئوليت

هیچ قانون جهانی و فراگیر وجود ندارد که ضروریات اخلاق در هوش مصنوعی را تنظیم کند، اما بسیاری از کشورها در تلاش هستند تا آنها را به صورت محلی توسعه دهند و اجرا کنند. برخی از مقررات هوش مصنوعی امروز در حال اجرا هستند و بسیاری دیگر نیز در آینده ارائه خواهند شد. برای پر کردن این شکاف، چارچوب‌های اخلاقی به عنوان بخشی از همکاری بین اخلاق‌شناسان و محققان برای کنترل ساخت و توزیع مدل‌های هوش مصنوعی در جامعه پدیدار شده‌اند. با این حال، در حال حاضر، اینها فقط برای راهنمایی هستند، و تحقیقات نشان می‌دهد که ترکیبی از مسئولیت‌های توزیع شده و فقدان آینده نگری در مورد پیامدهای بالقوه لزوماً برای جلوگیری از آسیب به جامعه مفید نیست.

لوگو الکتروهایو

الکتروهایو در خدمت مخاطبان عزیز می‌باشد. ما در تیم الکتروهایو در تلاش برای تهیه مقالات و مطالب به روز هستیم. لطفا برای مطالب و مقالات بیشتر با ما همراه باشید.

مطالب مرتبط:

داده‌های اسمی Nominal Data - الکتروهایو

داده‌های اسمی Nominal Data چیست؟

داده‌های اسمی(Nominal Data) یکی از اساسی‌ترین انواع داده‌ها در تجزیه و تحلیل داده‌ها است. شناسایی و تفسیر آن در بسیاری از زمینه‌ها از جمله آمار، علوم کامپیوتر، روانشناسی و بازاریابی ضروری است. این مقاله ویژگی‌ها، کاربردها و تفاوت‌های داده‌های اسمی

ادامه مطلب »
حاشیه‌نویسی متن در هوش مصنوعی - سایت الکتروهایو

حاشیه‌نویسی متن در هوش مصنوعی

حاشیه‌نویسی داده به الگوریتم‌های یادگیری ماشین اجازه می‌دهد تا اطلاعات را درک و تفسیر کنند. حاشیه‌نویسی‌ها برچسب‌هایی هستند که داده‌ها را شناسایی و طبقه‌بندی می‌کنند یا قطعات مختلف اطلاعات را با یکدیگر مرتبط می‌کنند. الگوریتم‌های هوش مصنوعی از آنها به

ادامه مطلب »
هوش مصنوعی در باستان شناسی و کاربردهای آن - سایت الکتروهایو

هوش مصنوعی در باستان شناسی چه کاربردهای می‌تواند داشته باشد؟

مکان‌های باستان‌شناسی ممکن است ثابت باشند، اما فرهنگ‌هایی که آنها را تولید کرده‌اند، پویا و متنوع بودند. برخی از آنها کاملاً عشایری بودند و مرتباً موقعیت خود را تغییر می‌دادند. برخی از آنها فواصل بسیار زیادی را مهاجرت کردند، در

ادامه مطلب »
با الگوریتم تشخیص اشیاء FCOS آشنا شوید - سایت الکتروهایو

با الگوریتم تشخیص اشیاء FCOS آشنا شوید: تشخیص اشیاء تک مرحله‌ای کاملاً کانولوشنال

تشخیص اشیاء یک کار مهم در بینایی کامپیوتر است که با رسم کادرهای محدود کننده در اطراف اشیاء شناسایی شده، مکان یک شی را در یک تصویر شناسایی و مکان‌یابی می‌کند. اهمیت تشخیص اشیاء را نمی‌توان به اندازه کافی بیان

ادامه مطلب »
با سایت Kaggle آشنا شوید! دریچه‌ای رو به دنیای اجتماع متخصصان هوش مصنوعی - سایت الکتروهایو

با سایت Kaggle آشنا شوید! دریچه‌ای رو به دنیای اجتماع متخصصان هوش مصنوعی

یادگیری ماشین (Machine Learning) و علم داده (Data Science) موضوعاتی هستند که در تمامی بخش‌های فناوری اطلاعات در مورد آن بحث و گفتگو وجود دارد. امروزه همه چیز در حال خودکار شدن است، و برنامه‌های کاربردی نیز به سرعت در

ادامه مطلب »
داده‌های اسمی Nominal Data - الکتروهایو

داده‌های اسمی Nominal Data چیست؟

داده‌های اسمی(Nominal Data) یکی از اساسی‌ترین انواع داده‌ها در تجزیه و تحلیل داده‌ها است. شناسایی …

حاشیه‌نویسی متن در هوش مصنوعی - سایت الکتروهایو

حاشیه‌نویسی متن در هوش مصنوعی

حاشیه‌نویسی داده به الگوریتم‌های یادگیری ماشین اجازه می‌دهد تا اطلاعات را درک و تفسیر کنند. …

هوش مصنوعی در باستان شناسی و کاربردهای آن - سایت الکتروهایو

هوش مصنوعی در باستان شناسی چه کاربردهای می‌تواند داشته باشد؟

مکان‌های باستان‌شناسی ممکن است ثابت باشند، اما فرهنگ‌هایی که آنها را تولید کرده‌اند، پویا و …

با الگوریتم تشخیص اشیاء FCOS آشنا شوید - سایت الکتروهایو

با الگوریتم تشخیص اشیاء FCOS آشنا شوید: تشخیص اشیاء تک مرحله‌ای کاملاً کانولوشنال

تشخیص اشیاء یک کار مهم در بینایی کامپیوتر است که با رسم کادرهای محدود کننده …

تصویربرداری چند طیفی، دیدی جدید فراسوی نور مرئی - سایت الکتروهایو

تصویربرداری چند طیفی، دیدی جدید فراسوی نور مرئی

تصویربرداری چند طیفی تکنیکی است که نور را در طیف وسیعی از باندهای طیفی، فراتر …