אפליקציית Google Photos עושה טעות ענקית וגזענית
מאז השקתו, שירות Google Photos משך את תשומת הלב של מדיה ומשתמשים מיוחדים בחלקים שווים. ונראה שהוא סיפק את הפתרון המובהק לבעיה של סמארטפונים ו-תצלומים כרגע: ענן עם שטח בלתי מוגבל וללא עלות כמובן, תוך התחשבות בכמה מגבלות שלרגע זה לא מרמזים על הבדל ויזואלי בין תמונות דחוסות לאלו שאינן כדי לא להתגבר על המחסומים הללו.כל זה מלווה בכמה פונקציות מעניינות מאוד כמו יצירה אוטומטית של אנימציות או קולאז'ים, או ארגון מושכל של תמונות. אבל דווקא בתכונה האחרונה הזו השירות התקלקל בצורה הגרועה ביותר
ועד עכשיו כמעט הכל היה שבחים על השירות, עד שמשתמש התלונן ברשת החברתית על טעות גדולה : תייג תמונה הכוללת שני אנשים שחורים (המשתמש עצמו וחברתו) בקטגוריה גורילות , בתוך חיות A אושרשיכול לכלול הרבה קונוטציות גזעניות ואשר העלה כמה שלפוחיות הן ברשתות החברתיות והן בתוך Google
לאחר תלונתו של הצעיר ב-Twitter, אזכור ישיר של Google לבקש הסברים בעניין זה, אחד המהנדסים האחראים לשירות לא ארך זמן רב לענות מתנצל ומקבל את השגיאה, מנסה לא להיכנס דיונים על איך או למה של העניין.
לפי Google, הם מתחרטים על האירוע הזה וכבר עובדים על שיפור מערכת התיוג של Google Photos עד היום, השירות מנתח את התמונות שהועלו לענן הזה כדי לגלות מה מופיע בתמונות. פונקציה די מוצלחת עד היום, שמסוגלת לגלות גורדי שחקים, אגמים, להבדיל בין בעלי חיים, לזהות תמונות של אוכל, תמונות של נופים, ועוד הרבה מאוד זמן. נכון שעדיין יש בו כשלים איך לפעמים לבלבל כלבים עם סוסים, או לא זהה נכון כמה אלמנטים שנראים ברורים, מפתיעים בתמונות אחרות בשל אחוזי ההצלחה שלהם.אבל מעולם לא בלבלתי אנשים עם קופי אדם ואפילו פחות כשמדובר בנושא גזע וצבע עור.
כנראה שהשירות עדיין זקוק לכמה שיפורים, אז Google הסירה את התג Gorillas כדי למנוע מבעיה זו להתרחש שוב. בנוסף, הם טוענים שהם משפרים את האלגוריתם שלהם כך שהניתוח והתיוג יהיו מדויקים יותר אולם המערכת שלה חכמה, ולומדת על ידי ניתוח תמונות חדשות, כך שהיא תשתפר עם הזמן ככל שיותר משתמשים ישתמשו בה.
אלה הן הבעיות הרגילות של השארת מכונה אחראית, ללא יכולת החשיבה של אדם. כרגע נראה שהבעיה הפכה לאנקדוטה מכוערת, לוקחת תיקון מודד מיד ומנסה להרגיע את הטון בנוגע לבעיית הגזענות.כמובן שזו לא הבעיה הראשונה מסוג זה שקורה. תוכניות אחרות ותוכנות זיהוי סבלו מבעיות דומות על ידי אי זיהוי נכון של גוון העור של משתמשים , או על ידי זיהוי שגוי של האור והתאורה של תצלום.
