(해당 자료들은 인텔 AI for Future Workforce내용을 학습하고 가공한 내용입니다.)
< Module - 13 >
#디자인 사고(Design Thinking)
1. 공감(Empathize)
잠재고객에 대해 알아보기
- 사용자가 누구인가
- 무엇이 그들에게 필요하고 중요한가
2. 정의(Define)
Point-of-View 설명 작성
- 사용자의 요구 사항에 맞추기
- 다른 통찰력에 대한 공감으로
3. 구상(Ideate)
창의력을 발휘하기
- 브래인스토밍 활용, 최대한 많은 아이디어 생성하기
4. 프로토타입(Prototype)
아이디어를 사람들에게 공개
- 낮은 완성 단계의 프로토타입을 스케치
- 서로의 디자인에 대한 피드백 교환
5. 테스트(Test)
포로토타입 공유 및 테스트
- 좋은 피드백과 인사이트 수집
- 공감 단계로 돌아가기
#AI 편향
1. AI 챗봇 (이루다)
이루다는 국내 스타트업 스캐터랩이 개발한 메신저 기반 일상대화 챗봇이다. 스무 살 여성 대학생을 페르소나로 딥러닝 알고리즘을 이용하여 자연스러운 일상대화를 구현한다는 특징을 가지고 있다. 하지만 이루다를 사용했던 이용자들에게서 이루다의 발언에 문제가 있음을 발견하게 되었고 잠시 중단됐던 적이 있는데, 그때의 기사를 살펴보았다.
개인정보 유출에 대해 논쟁이 많았다. 카카오톡 대화의 개인정보를 이용하고 수집, 활용한 건, 타앱 '텍스트앳'과 '연애의 과학'에서 동의받은 수집, 이용 목적을 벗어나 이루다의 개발에 이용한 행위. 대화의 가명처리 및 개인정보가 무분별하게 학습되었다는 점이다. 또한 깃허브에 이용자의 카카오톡 대화문장을 공유한 점도 조사하면서 새롭게 알게 되었다.
이를 통해 학습 데이터의 가공이 중요함과 동시에 AI를 학습하는 데 있어 주의를 기울이지 않는다면 이런 피해들이 나타날 수 있다.
2. AI 채용
온라인 채용 서비스 모던 하이어 설문조사 결과 기업 3/4곳이 22년 인재 채용 관련 기술을 구매했으며 투자가 지속적으로 이루어지고 있다. 하지만 공정한 채용 불가와 결과에 대한 설명이 없다는 점이 문제이다.
(1) 데이터 편향성
2014년 아마존의 AI 채용 서비스의 문제로 실험 결과 여성을 차별하는 문제점이 발견되었다. 이력서에 '여성 체스 동아 리'같은 '여성'이라는 단어가 포함되면 감점되고 남성 기술자들이 이력서에 자주 쓰는 동사를 유리하게 판단했다고 한다.
(2) 불합격 사유의 불분명
지원자가 불합격 하더라도 해당 사유를 알려줄 의무가 있다. 하지만 AI를 통한 면접에서는 AI가 어떤 근거로 불합격 판 정 을 내렸는지 알 수 없다. (입사 지원자의 권리 보장 참고) 또한 사람들의 인식에서 '그저 카메라 앞에서 웃으면 점수가 잘 나온다, 끈김 없이 아무 말이나 이어가면 점수가 높게 나온다' 등 면접에 상관이 없는 부분이 평가에 반영된다고 느꼈다.
3. 안면 인식
미국에서 AI을 이용한 안면인식 기술의 오류로 무고한 시민을 체포하는 일이 발생했다. 경찰은 상점 내 감시카메라에 찍힌 범인의 얼굴을 안면인식 기술로 분석한 결과를 근거로 용의자로 특정한 상황이었다.
관련 전문가인 클레어 가비의 말에 의하면 이 사건 외에도 체포된 사례가 4건 더 있었는데 이때 피해자는 모두 흑인 남성이었다고 말했다.
#가이드 사례 연구 예시(에어비앤비)
두 사진을 비교하여 보았을 때 사람들이 선택하는 숙소는 대부분 1번 사진일 것이다. 2번 사진은 해당 집의 매력도 보여지지 않으면서 집의 가치 또한 떨어뜨린다. 이를 해결하기 위해 더 좋은 카메라로 사진을 찍거나 해당 숙소의 매력을 돋보이게 할 수 있는 것을 활용하여 숙소의 가치를 올릴 수 있다.
참고 자료
논문, AI 챗봇 ‘이루다’ 논란의 이슈 변화와 시사점
https://ettrends.etri.re.kr/ettrends/189/0905189010/093-101_%EC%B5%9C%EC%83%88%EC%86%94.pdf
'인텔 AI 교육' 카테고리의 다른 글
| 인텔 AI 교육 - Module-15(기업가 정신) (0) | 2023.07.28 |
|---|---|
| 인텔 AI 교육 - Module-14(시스템 사고) (0) | 2023.07.27 |
| 인텔 AI 교육 - Module-12(시각화 정리) (0) | 2023.07.26 |
| 인텔 AI 교육 - Module-12(Tableau Public, 활용 예제1) (0) | 2023.07.26 |
| 인텔 AI 교육 - Module-11(인공 신경망 예제) (0) | 2023.07.26 |
