|
|
|
¡ã ÇÁ¸°½ºÅÏ´ë°¡ °³¹ßÇÑ µµ±¸ÀÎ '¸®¹ÙÀ̽º'´Â ¿À¸£°£À» ¿¬ÁÖÇÏ´Â »ç¶÷ÀÌ ³²ÀÚÀÎÁö ¾Æ´Ï¸é ¿©ÀÚÀÎÁö¸¦ ±¸ºÐÇÑ´Ù. (»çÁø=ÇÁ¸°½ºÅÏ´ë) |
¹Ì ÇÁ¸°½ºÅÏ´ë ¿¬±¸ÁøÀÌ ÄÄÇ»ÅÍ ºñÀü ¾Ë°í¸®ÁòÀÇ Æí°ßÀ» ÁÙ¿©ÁÖ´Â µµ±¸¸¦ °³¹ßÇß´Ù°í ¹àÇû´Ù.
'À¯·º¾î·¯Æ®'¿¡ µû¸£¸é ¹Ì ÇÁ¸°½ºÅÏ´ë 'ºñÁÖ¾ó AI·¦' Áî¾îÀ§ ¿Õ(Zeyu Wang) µî ¿¬±¸ÁøÀº ÄÄÇ»ÅÍ ºñÀü ÀΰøÁö´É ¾Ë°í¸®ÁòÀ» ÈƷýÃÅ°´Â µ¥ È°¿ëµÇ´Â À̹ÌÁö µ¥ÀÌÅÍ ¼¼Æ®(data set)·ÎºÎÅÍ ÀáÀçÀûÀÎ Æí°ßÀ» ÁÙ¿©ÁÙ ¼ö ÀÖ´Â µµ±¸¸¦ °³¹ßÇß´Ù.
ÀΰøÁö´ÉÀ» ÈÆ·ÃÇϱâÀ§Çؼ± ÀϹÝÀûÀ¸·Î ÀÎÅÍ³Ý µî ¿©·¯ µ¥ÀÌÅÍ ¼Ò½º·ÎºÎÅÍ È®º¸ÇÑ À̹ÌÁö µ¥ÀÌÅÍ ¼¼Æ®¸¦ ÀÌ¿ëÇÑ´Ù. ÇÏÁö¸¸ À̹ÌÁö µ¥ÀÌÅÍ ¼¼Æ®¿¡ Æ÷ÇԵǾî ÀÖ´Â ½ºÅ×·¹¿ÀŸÀÔ ÇüÅÂÀÇ À̹ÌÁö¸¦ ÀÌ¿ëÇØ ÄÄÇ»ÅÍ ºñÀü¿¡ °üÇÑ ÀΰøÁö´É ¾Ë°í¸®ÁòÀ» ÈÆ·ÃÇÏ´Ùº¸¸é ÀǵµÄ¡¾Ê°Ô ÄÄÇ»ÅÍ ºñÀü ¸ðµ¨¿¡ »çȸÀûÀÎ ½ºÅ×·¹¿À ŸÀÔÀ̳ª Æí°ßÀ» ±×´ë·Î Åõ¿µÇÒ ¼ö ÀÖ´Ù.
ÀÌ °°Àº ¹®Á¦¸¦ ÇØ°áÇϱâÀ§ÇØ ÇÁ¸°½ºÅÏ´ë ¿¬±¸ÁøÀº ½Ã°¢ÀûÀÎ µ¥ÀÌÅÍ ¼¼Æ®·ÎºÎÅÍ ÀáÀçÀûÀÎ Æí°ßÀ» ÀÚµ¿À¸·Î ¹ß°ßÇØÁÖ´Â ¿ÀǼҽº µµ±¸¸¦ °³¹ßÇß´Ù. ÀÌ µµ±¸´Â µ¥ÀÌÅͼ¼Æ®¸¦ ¸¸µå´Â »ç¶÷À̳ª »ç¿ëÀÚµéÀÌ À̹ÌÁö µ¥ÀÌÅ͸¦ ÀÌ¿ëÇØ ÄÄÇ»ÅÍ ºñÀü ¸ðµ¨À» ÈÆ·ÃÇϱâ Àü¿¡ '°ú¼Ò ´ëÇ¥¼º(underrepresentation)' ¶Ç´Â ½ºÅ×·¹¿ÀŸÀÔ ¹¦»ç µî ¹®Á¦¸¦ ±³Á¤ÇÒ ¼ö ÀÖµµ·Ï µµ¿ÍÁØ´Ù.
À̸¦ ÅëÇØ ÇÁ¸°½ºÅÏ´ë ºñÁÖ¾ó AI·¦ ¿¬±¸ÁøÀº ±âÁ¸ÀÇ ÄÄÇ»ÅÍ ºñÀü ¸ðµ¨µéÀ» ºñ±³ÇÏ°í Æí°ßÀ» ÁÙÀÏ ¼ö ÀÖ´Â º¸´Ù È¿°úÀûÀÎ Á¢±Ù¹ýÀ» Á¦¾ÈÇß´Ù.
¿¬±¸ÁøÀÌ °³¹ßÇÑ µµ±¸ÀÎ ‘¸®¹ÙÀ̽º(REVICE:REvealing VIsual biaSEs)’´Â °ú¼Ò ´ëÇ¥¼º°ú ÀáÀçÀûÀÎ Æí°ßÀÇ ¹®Á¦¸¦ ÇØ°áÇϱâ À§ÇØ Åë°èÀûÀÎ ¹æ¹ýÀ» È°¿ëÇØ À̹ÌÁö µ¥ÀÌÅÍ ¼¼Æ®¸¦ 3°¡Áö Â÷¿ø¿¡¼ °ËÅäÇÑ´Ù. Áï °´Ã¼ ±â¹Ý,Á¨´õ ±â¹Ý, Áö¿ª ±â¹Ý µî 3°¡Áö Â÷¿ø¿¡¼ °ú¼Ò ´ëÇ¥¼º°ú ÀáÀçÀûÀÎ Æí°ß ¹®Á¦¸¦ °É·¯³½´Ù´Â °Í.
¿¹¸¦ µé¾î ¸®¹ÙÀ̽º´Â »ç¶÷°ú ²ÉÀÌ ÇÔ²² ÀÖ´Â À̹ÌÁö°¡ µ¥ÀÌÅÍ ¼¼Æ®¿¡ Æ÷ÇԵǾî ÀÖÀ» °æ¿ì »ç¶÷ÀÌ ³²¼ºÀÎÁö ¿©¼ºÀÎÁö¸¦ ±¸ºÐÇÒ ¼ö ÀÖ´Ù. ³²¼ºÀº ÁַΠȸÇÕÀ̳ª ÀÇÀü Çà»ç¿¡¼ ²É°ú ÇÔ²² ÀÖ´Â °æ¿ì°¡ ¸¹°í, ¿©¼ºÀº ±×¸²À̳ª ¹«´ë ÀåÄ¡¿¡ ÀÚÁÖ ³ª¿À´Â °æÇâÀÌ ÀÖ´Â °ÍÀ¸·Î ³ªÅ¸³µ´Ù. ÀÌ °°Àº Â÷ÀÌ°¡ ¹ß°ßµÇ¸é ÇØ´ç µµ±¸´Â À̸¦ ÀüÀûÀ¸·Î »ç½Ç·Î ÀÎÁ¤ÇÒÁö, º¸´Ù ±íÀÌ ÀÖ´Â °úÁ¤ÀÌ ÁøÇàµÇ¾î¾ßÇÏ´ÂÁö, ÀÚµ¿ÈÇÒ ¼ö ÀÖ´ÂÁö¿¡ °üÇÑ Áú¹®À» ´øÁö°Ô µÈ´Ù.
¿¬±¸ÆÀ¿¡ µû¸£¸é ƯÈ÷ Áö¿ªÀûÀÎ °ú¼Ò ´ëÇ¥¼º ¹®Á¦°¡ ÀΰøÁö´É ¾Ë°í¸®ÁòÀÇ Æí°ßÀ» Á¶ÀåÇÒ ¼ö ÀÖ´Â °ÍÀ¸·Î ³ªÅ¸³µ´Ù. ƯÁ¤ À̹ÌÁö°¡ ¹Ì±¹À̳ª À¯·´¿¡¼ ¸¸µé¾îÁø °ÍÀ¸·Î °ú´ë Æò°¡µÉ ¼ö ÀÖ´Ù. ¹Ì±¹À̳ª À¯·´ÀÌ ¾Æ´Ñ Áö¿ª À̹ÌÁö¿¡ °üÇÑ »çÁø ¼³¸íÀÌ ÇØ´ç Áö¿ª ¾ð¾î·Î Ç¥±âµÇÁö ¾Ê´Â »ç·Ê°¡ ±¤¹üÀ§ÇÏ°Ô ¹ß»ýÇÒ ¼ö ÀÖÀ¸¸ç, ÀÌ·± À̹ÌÁöµéÀÌ °ü±¤°´¿¡°Ô Æ÷ÂøµÇ¾î ƯÁ¤ ±¹°¡³ª Áö¿ª¿¡ ´ëÇÑ À߸øµÈ ½Ã°¢À» Çü¼ºÇÒ ¼ö ÀÖ´Ù´Â ¼³¸íÀÌ´Ù.
¿¬±¸ÆÀÀº “Áö¸®ÀûÀÎ ºÐ¼®À» ÅëÇØ ÀÌ °°Àº ÄÄÇ»ÅÍ ºñÀüÀÇ °øÁ¤¼º ¹®Á¦¸¦ ´Ù·çÁö ¾ÊÀ¸¸é °´Ã¼ ÀÎ½Ä °úÁ¤¿¡¼ Æí°ßÀÌ ÀÛ¿ëÇϰųª ¹èŸÀûÀÌ µÇ¸ç, °á±¹ ¹Ì±¹À̳ª À¯·´ ¿Ü ´Ù¸¥ Áö¿ª°ú »ç¶÷µé¿¡ ´ëÇØ ºÒÆòµîÇÑ ¿µÇâÀ» ÁÙ ¼ö ÀÖ´Ù”°í ÁöÀûÇß´Ù.
ÇÁ¸°½ºÅÏ´ë ¿¬±¸ÆÀÀº Æí°ßÀÌ ÀÖ´Â Àǽɽº·± »ó°ü°ü°è·ÎºÎÅÍ ÇнÀÇÏ´Â °ÍÀ» Â÷´ÜÇϱâÀ§ÇÑ ÄÄÇ»ÅÍ ºñÀü ¾Ë°í¸®ÁòÀ» Á¦¾ÈÇß´Ù. ƯÈ÷ ¿¬±¸ÆÀÀº ³Î¸® È°¿ëµÇ°í ÀÖ´Â ±â¼úÀÎ ‘Àû´ëÀûÀÎ ÈÆ·Ã(adversarial training)‘ ¹æ½ÄÀÌ À̹ÌÁö ÀÎ½Ä ¸ðµ¨ÀÇ ÀüüÀûÀÎ ¼º´É¿¡ ³ª»Û ¿µÇâÀ» ¹ÌÄ¥ ÀÖÀ¸¸ç,'µµ¸ÞÀÎ-µ¶¸³Àû(domain-independant)' ÈÆ·Ã ±â¼úÀÌ Àû´ëÀûÀÎ ÈÆ·Ã ±â¼úº¸´Ù ³ªÀº ¼º´ÉÀ» ¹ßÈÖÇÑ´Ù´Â Á¡À» È®ÀÎÇß´Ù. ¿¬±¸ÆÀÀÌ Á¦¾ÈÇÑ ÄÄÇ»ÅÍ ºñÀü ¾Ë°í¸®ÁòÀº ½Ã°¢ÀûÀÎ ´Ü¼(visual cue)·ÎºÎÅÍ ’º¸È£µÈ ¼Ó¼º(protected attribute)’À» ºÐ¸®,°í·ÁÇÏ´Â ¹æ½ÄÀ¸·Î ÀáÀçÀûÀÎ Æí°ßÀ» ¿ÏÈÇÒ ¼ö ÀÖ´Ù´Â ¼³¸íÀÌ´Ù. |