بایس یعنی چی
بایس یعنی چی؟ 🤔
بایس یه کلمه انگلیسیه که تو دنیای امروز خیلی زیاد میشنویم. اصلاً انگار همه جا یه بایسی وجود داره! ولی "بایس" دقیقاً چیه و چطور تو زندگی ما تأثیر میذاره؟
خیلی ساده بگم بایس یعنی یه نوع سوگیری یا تعصب ناخودآگاه که روی تصمیمات و رفتار ما تأثیر میذاره. خب تا اینجا که چیز خاصی نیست. همه ما یه جورهایی تعصب داریم. اما موضوع اصلی اینجاست که بایس میتونه باعث بشه اشتباه قضاوت کنیم فرصت های خوب رو از دست بدیم و حتی به دیگران ظلم کنیم.
تصور کن یه کارمند جدید به شرکت شما پیوست و همون روز اول یه اشتباه کوچک انجام میده. خب معمولی هست که تو ذهنت یه نفر "ناکارآمد" رو تصور کنی. اما این یه نوع بایس اولین تأثیر هست که میتونه روی قضاوت تو تأثیر بگذاره. تو میتونی از این بایس آگاه باشی و به خودت وقت بدی تا این کارمند رو بهتر بشناسی.
اما بایس فقط در مورد افراد نیست. در مورد هر چیزی میتونه وجود داشته باشه.
- مثلاً وقتی ما یه محصول جدید رو میبینیم که خیلی گران هست احتمالاً فکر میکنیم کیفیت خیلی بالاتری داره. این هم یه نوع بایس هست که به اسم "بایس قیمت " شناخته میشه.
- یا وقتی که یه موضوع رو از ناحیه خودمون میشنویم احتمالاً بیشتر به اون موضوع اعتقاد داریم. این هم یه نوع "بایس تایید " هست که ما را به دنبال اطلاعات و نظر افرادی میفرستد که با نظر ما مطابقت داره.
- یا حتی وقتی که یه شخص رو در یه مکان خاص میبینیم با خودمون میگیم که این شخص به این مکان تعلق داره. این هم یه نوع "بایس استریوتایپ " هست که ما را به مطابقت دادن رفتار انسان با استریوتایپ های موجود و پیش داوری میفرستد.
بایس ها چطور به وجود میان؟
بایس ها تو ذهن ما مثل یه سری "برچسب " هستند که از طریق تجربه ها و اطلاعات قبلی ما ایجاد میشند. این تجربه ها میتونند از خانواده دوستان رسانه ها مکتب و حتی تجربه های شخصی ما نشأت بگیرند.
مثلاً یه بایس میتونه از طریق یه حرف منفی که از والدین ما در مورد یه قوم خاص شنیده ایم ایجاد بشه. یا از طریق یه فیلم سینمایی که یه شخص با ویژگی خاص را به عنوان شخصیت منفی نمایش میده.
اما بایس ها همیشه هم منفی نیستند. گاهی میتونند به ما کمک کنند که سریعتر تصمیم بگیریم و یا در situations خطرناک واکنش سریع تری داشته باشیم. اما در بعضی از مواقع میتونند باعث بشن که ما رو به سمتی هدایت کنند که به نفع ما نیست.
بایس ها چه ضرری دارند؟
- بایس ها میتونند باعث بشن که ما افراد رو به طور نادرست قضاوت کنیم. مثلاً اگر یه بایس منفی در مورد یه گروه خاص داریم احتمال داره که نظر منفی درباره همه اعضای اون گروه داشته باشیم.
- بایس ها میتونند باعث بشن که ما به اطلاعات مغرضانه و اشتباه اعتقاد داشته باشیم. مثلاً اگر یه بایس در مورد یه موضوع خاص داریم احتمال داره که فقط به اطلاعات و نظر افرادی اعتقاد داشته باشیم که با نظر ما مطابقت داره.
- بایس ها میتونند باعث بشن که ما عمل نادرستی انجام بدیم. مثلاً اگر یه بایس در مورد یه نژاد خاص داریم احتمال داره که رفتار نژادپرستانه داشته باشیم.
چطور بایس ها رو کنترل کنیم؟
- از وجود بایس ها در ذهن خودمون آگاه باشیم. اولین قدم برای کنترل بایس ها این هست که از وجود اونها آگاه باشیم. از خودمون بپرسیم که "چه احساساتی دارم و چه فکری میکنم؟"
- به منابع متعدد و غیر مغرضانه مراجعه کنیم. بایس ها میتونند باعث بشن که فقط به اطلاعات و نظر افرادی اعتقاد داشته باشیم که با نظر ما مطابقت داره. برای کنترل این بایس لازمه که به منابع متعدد و غیر مغرضانه مراجعه کنیم.
- به تفکر انتقادی رو به کار بگیریم. تفکر انتقادی به ما کمک میکنه که از خودمون بپرسیم "آیا این نظر درست هست؟" و "آیا شواهدی برای اثبات این نظر وجود داره؟"
- با افراد با نظر مختلف صحبت کنیم. گفتگو با افرادی که نظر مختلف با ما دارند به ما کمک میکنه که دید جدیدی به موضوع داشته باشیم و بایس های خودمون رو به چالش بکشیم.
- تمرین کنیم که به تمامی انسان ها با احترام رفتار کنیم. با احترام به انسان ها با هر نوع نژاد فرهنگ و یا اعتقاد میتونیم از به وجود آمدن بایس های منفی جلوگیری کنیم.
بایس ها در موضوع "هوش مصنوعی"
بایس ها در موضوع هوش مصنوعی هم خیلی مهم هستند. زیرا هوش مصنوعی بر اساس داده های انسان آموزش میبیند. اگر این داده ها مغرضانه باشند احتمال داره که هوش مصنوعی هم به نوعی مغرضانه عمل کند.
مثلاً یه سیستم هوش مصنوعی که برای انتخاب کارمند طراحی شده میتونه از روی داده های قبلی کارمندانی را که از یه نژاد خاص هستند به عنوان کارمند مناسب انتخاب کند. این موضوع میتونه باعث بشه که در زمینه اشتغال تبعیض ایجاد بشه.
چطور از بایس ها در هوش مصنوعی جلوگیری کنیم؟
- داده های مغرضانه را شناسایی کنیم. اولین قدم برای جلوگیری از بایس ها در هوش مصنوعی این هست که داده های مغرضانه را شناسایی کنیم.
- داده ها را تنظیم و بهبود بخشی کنیم. بعد از شناسایی داده های مغرضانه لازمه که اونها را تنظیم و بهبود بخشی کنیم.
- از الگوریتم های شفاف و قابل تفسیر استفاده کنیم. الگوریتم های شفاف و قابل تفسیر به ما کمک میکنند که بفهمیم که سیستم هوش مصنوعی چطور تصمیم میگیرد.
- تکنیک های جدید برای جلوگیری از بایس ها را مطالعه و اجرا کنیم. با مطالعه و اجرای تکنیک های جدید برای جلوگیری از بایس ها میتونیم از ایجاد بایس ها در سیستم های هوش مصنوعی جلوگیری کنیم.
جدول بایس های رایج در هوش مصنوعی
| نوع بایس | توضیح | مثال |
|---|---|---|
| بایس "انتخاب " | هنگامی که داده های آموزشی تنها نمونه هایی را شامل میشوند که نماینده تمام موارد ممکن نیستند این بایس به وجود می آید. | سیستمی که برای تشخیص سرطان پوست طراحی شده میتونه در تشخیص سرطان پوست در افراد با رنگ پوست تیره تر مشکل داشته باشد زیرا داده های آموزشی بیشتر از افراد با رنگ پوست روشن تر است. |
| بایس "نمایندگی " | هنگامی که داده های آموزشی نماینده جمعیت هدف نیستند این بایس به وجود می آید. | سیستمی که برای پیش بینی نمره دانش آموزان طراحی شده میتونه در پیش بینی نمره دانش آموزان از مناطق فقیرنشین مشکل داشته باشد زیرا داده های آموزشی بیشتر از دانش آموزان از مناطق ثروتمندتر است. |
| بایس "استریوتایپ " | هنگامی که سیستم هوش مصنوعی بر اساس استریوتایپ های موجود در داده های آموزشی تصمیم میگیرد این بایس به وجود می آید. | سیستمی که برای انتخاب کارمند طراحی شده میتونه افرادی را که در شغل خاص متداول هستند به عنوان کارمند مناسب انتخاب کند حتی اگر این استریوتایپ نادرست باشد. |
نتیجه گیری
بایس ها یه مشکل واقعی هستند که میتونند روی تصمیمات و رفتار ما تأثیر بذارند. برای کنترل بایس ها لازمه که از وجود اونها آگاه باشیم به منابع متعدد و غیر مغرضانه مراجعه کنیم به تفکر انتقادی رو به کار بگیریم با افراد با نظر مختلف صحبت کنیم و تمرین کنیم که به تمامی انسان ها با احترام رفتار کنیم.
پرسش و پاسخ
1. چه طور میتونم بفهمم که یه بایس دارم؟
خیلی ساده به احساسات و افکار خودتون توجه کنید. اگر یه احساس یا فکر خاص را به طور ناگهانی و بدون دلیل مناسب دارید احتمال داره که یه بایس در کار باشد.
2. آیا همه بایس ها منفی هستند؟
نه همه بایس ها منفی نیستند. بعضی از بایس ها میتونند به ما کمک کنند که سریعتر تصمیم بگیریم و یا در situations خطرناک واکنش سریع تری داشته باشیم. اما در بعضی از مواقع میتونند باعث بشن که ما رو به سمتی هدایت کنند که به نفع ما نیست.
3. آیا میشه از وجود بایس ها در هوش مصنوعی جلوگیری کرد؟
بله با شناسایی داده های مغرضانه تنظیم و بهبود بخشی داده ها استفاده از الگوریتم های شفاف و قابل تفسیر و مطالعه و اجرای تکنیک های جدید برای جلوگیری از بایس ها میتونیم از ایجاد بایس ها در سیستم های هوش مصنوعی جلوگیری کنیم.