בינה מלאכותית הפכה לחלק בלתי נפרד מחיינו. עם זאת, השימוש הגובר בבינה מלאכותית העיר בעיה חדשה - הטיה ואפליה של הבינה המלאכותית בין מגדרים.
אלגוריתמים מסוימים מספקים תוצאות מוטות בגלל שהדאטה שעליו מתבססת הבינה המלאכותית מכיל הטיות אנושיות. הבעיה היא שהטיות אלו אינן מכוונות, וקשה לדעת עליהן עד שהן באות לידי ביטוי בתוכנה. דוגמה אחת להטיה אנושית לא מודעת היא שמירה על אי שוויון במקצועות הנשלטים על ידי גברים. אם נבקש ממערכות הבינה המלאכותיות גנרטיבית (Generative AI, כגון מידג'רני) להציג תמונה של כבאי ללא ציון המגדר (באנגלית: Firefigther), אז , 90% מהתמונות שיוצגו יהיו של גברים.
יש חשש גובר שמערכות בינה מלאכותית מנציחות ואף מעצימות הטיות קיימות, מה שמוביל לתוצאות לא הוגנות. הדבר יכול להשפיע לרעה על קבוצות מיעוט, שכן אפליה מעכבת שוויון הזדמנויות.
תחום הבינה המלאכותית יוצר מציאות לא רצויה ולא שוויונית ולכן עלינו לפתח ולתכנן כלים מבוססי בינה מלאכותית שבאים לתקן את העיוותים ולהביא לייצוג הוגן של מגדרים שונים באוכלוסייה.
במחקר זה אנו מנסים לתקן את ההטיות המגדריות הקיימות בבינה מלאכותית יוצרת, ובאמצעות רדוקציה Black-Box אנו הופכים מודל בינה מלאכותית מוטה מגדרית שמקבל prompt ומייצר תמונות של אנשים למודל בינה מלאכותית שוויוני מבחינה מגדרית. לדעתנו מחקר זה חשוב במיוחד לאור עידן ה- Metaverse ועלייתן של המכונות ביצירת תמונות מג'ונרטות ומציאות וירטואלית, שכן ייתכן שזהו העתיד, ואנו פה לדאוג לעתיד שוויוני! המחקר בוצע בשיתוף פעולה עם קבוצת מחקר באקדמית הכוללת את ד"ר שראל כהן, סטודנטית לתואר שני במדעי המחשב ימית שפלר, ובכוונתו לפרסם את הממצאים בכתב מדעי.