왜 꼭 있잖아요. 시험기간에 시험범위 외의 다른 범위가 재미있어져서 그거 파다가 시험 망치는 학생이요.
그게 저에요. 🤣🤣🤣
읽으라는 편견은 안읽고, 외로움의 습격이 너무 재미있어서 마저 읽다보니 3장의 내용 역시 '편견'과 관련이 있어서 읽고 글을 끄적여봅니다.
김만권 박사님의 책은 처음 읽어봅니다.
글, 내용도 상냥하고, 마로니에에서의 목소리가 들리는 문체였습니다. 너무 재미있게 읽었어요.
그래서 다음 마로니에때 읽을 책을 주문했습니다. (편견부터 읽으라고!!!!!!!!!!)
외로움의 습격 3장은 데이터가 편견을 만날때라는 제목입니다.
1장은 외로움에 대해
2장은 디지털이 만드는 외로움에 대해 이야기를 합니다.
저는 제어분야가 전문이었긴 하지만(지금은 주부) 인공지능에도 관심을 가지고 보는 편인데도 놀라운 이야기가 많았습니다.
정확히는 소름끼치는 내용들이었어요. 무서웠구요.
3장은 데이터가 만들어지는 과정과 그 안에서 생기는 우리의 편견이 데이터에도 그대로 담긴다는 내용이었습니다.
제가 학부 4학년 때, 인공지능으로 스팟 용접 불량을 검출하는 프로그램을 짜고 논문을 낸 적이 있습니다.
지금같은 딥러닝은 아니었고 낮은 차원의 머신러닝(패턴학습)이었어요.
양품과 불량의 데이터를 밀어넣고, 새로운 용접 데이터를 넣어 결과를 확인하고 결과에 따라 가중치를 조정하는 방식으로 학습을 강화시키는 단순한 모형이었습니다.
이 때 중요했던 것은 [가중치] 였습니다. 물론 좋은 학습 데이터도 중요했지만 더 나은 결과를 만들기 위해서는 가중치 조정이 필수적이었어요.
데이터를 입력하는 사람이 시험 결과를 보고 기계가 더 정확한 판단을 할 수 있도록 일정 데이터에 가중치를 주는 것.
이것은 데이터의 편향을 만들어내기 때문에 가중치가 과하게 되면 더 이상한 결과가 나오기도 했습니다.
당시 같이 연구하던 친구(지금의 남편)과 "모든 데이터를 하나하나 인간이 넣어주고 가중치를 인간이 판단해야 한다면 이게 인공지능일까?" 라는 이야기를 나눴던 기억도 나네요.
그래서 3장을 더 재미있게 느낀 것 같습니다.
chatGPT, sora, bing, 기타등등의 무시무시한 ai들도 결국에는 인간이 하나하나 라벨링한 데이터를 입력을 해주어야 하고,
무수히 많은 데이터(빅데이터)에는 인간들의 편견이 내포되어 ai 역시 인간의 편견을 학습한다는 사실을 알게 되었습니다.
그 예로, '관리자'라는 키워드로 만든 이미지는 백인, 남성, 정장 차림의 그림이고,
'관리자' 에 '자애로운' 이라는 단어를 붙이면 그때서야 웃고있는, 백인 여성의 그림이 나온다는 내용을 통해
AI도 인종, 성별에 대한 편견을 가지고 있다고 이야기 합니다.
그리고 아메리칸 원주민 중 깃털을 장식으로 쓰는 부족은 소수임에도 불구하고 우리가 익숙히 알고 있는 깃털을 단 인디언이 데이터적으로 압도적으로 다수를 차지하고 있기 때문에 ai 역시 그러한 편견을 그대로 출력한다고 이야기 합니다.
하지만 우리는 "인공지능은 공정할 것이다" 라는 편견을 가지고 있고, "AI판사가 도입되어야 한다"라는 류의 이야기를 아주 쉽게 하고 있죠.
하지만 판례 역시 인간의 편견이 담긴 결과물이기에 시 ai는 공정한 판결을 내릴 수 없다는 결론에 이르러요.
(이건 [어떤 양형 이유 - 박주영]을 읽으면 절대 기계는 판사의 역할을 할 수 없다는 걸 느끼게 됩니다.)
결국 우리의 삶 곳곳에 편견이 스며들어 있다면, 우리가 만든 데이터에도 그런 편견이 고스란히 반영될 수밖에 없어요. 아무리 데이터에서 편견을 제거하는 작업을 계속하다 해도, 삶이 지속되고 새로운 경험이 쌓고 쌓이는 과정에서 개로운 편견은 끊임없이 생겨날 거에요. 그러니 데이터에서 온전히 편견을 제거하는 일은 불가능하다고 봐야해요. 그래서 저는 또 이렇게 말할 수밖에 없어요.
"빅데이터도 편견을 갖는다."
- 외로움의 습격 160p
그렇기에 인간이 만들어내는 모든 데이터( 말과 행동, 편견)을 그대로 학습하는 AI에게 "좋은 데이터가 필요한데,
그렇다면 우리는 어떻게 "좋은 데이터"를 만들 수 있을까요?
상냥한 김만권 박사님은 문제에 대한 해답도 주셨습니다.
"우리 서로가 서로를 보호하고 아낀다면 그런 우리의 모습이 빅데이터에 담겨 인공지능을 만들어 내는 결과물에도 영향을 미칠 것이다."
우리가 만들어 내는 모든 데이터가 우리의 편견을 담고 있다면, 우리의 사랑도 담아낼 수 있을 것이라는 말이 깊게 다가왔습니다.
글을 적으며 다시 책을 훑다보니 빅데이터로 만들어지는 인공지능이 어린 아이와 다르지 않다는 생각이 드네요.
아이는 부모의 거울이라는 말이 있듯이, 어린 아이들은 부모의 말과 행동, 태도, 감정까지 그대로 내면화합니다.
그래서 아이에게는 [모범적인 부모]가 중요하다고 이야기 하죠.
모범적인 인간으로서 삶을 살아가며 생성되는 데이터(싫든 좋든, 기업에게 수집되는)가 더 좋은 인공지능을 만들 것이라는 아름다운 결론으로 급하게 글을 마무리 하겠습니다. ㅎㅎ
그럼 금요일 머비스 클럽에서 만나요!
저는 편견을 다 읽지 못한채, 참여합니다. 🥲
왜 꼭 있잖아요. 시험기간에 시험범위 외의 다른 범위가 재미있어져서 그거 파다가 시험 망치는 학생이요.
그게 저에요. 🤣🤣🤣
읽으라는 편견은 안읽고, 외로움의 습격이 너무 재미있어서 마저 읽다보니 3장의 내용 역시 '편견'과 관련이 있어서 읽고 글을 끄적여봅니다.
김만권 박사님의 책은 처음 읽어봅니다.
글, 내용도 상냥하고, 마로니에에서의 목소리가 들리는 문체였습니다. 너무 재미있게 읽었어요.
그래서 다음 마로니에때 읽을 책을 주문했습니다. (편견부터 읽으라고!!!!!!!!!!)
외로움의 습격 3장은 데이터가 편견을 만날때라는 제목입니다.
1장은 외로움에 대해
2장은 디지털이 만드는 외로움에 대해 이야기를 합니다.
저는 제어분야가 전문이었긴 하지만(지금은 주부) 인공지능에도 관심을 가지고 보는 편인데도 놀라운 이야기가 많았습니다.
정확히는 소름끼치는 내용들이었어요. 무서웠구요.
3장은 데이터가 만들어지는 과정과 그 안에서 생기는 우리의 편견이 데이터에도 그대로 담긴다는 내용이었습니다.
제가 학부 4학년 때, 인공지능으로 스팟 용접 불량을 검출하는 프로그램을 짜고 논문을 낸 적이 있습니다.
지금같은 딥러닝은 아니었고 낮은 차원의 머신러닝(패턴학습)이었어요.
양품과 불량의 데이터를 밀어넣고, 새로운 용접 데이터를 넣어 결과를 확인하고 결과에 따라 가중치를 조정하는 방식으로 학습을 강화시키는 단순한 모형이었습니다.
이 때 중요했던 것은 [가중치] 였습니다. 물론 좋은 학습 데이터도 중요했지만 더 나은 결과를 만들기 위해서는 가중치 조정이 필수적이었어요.
데이터를 입력하는 사람이 시험 결과를 보고 기계가 더 정확한 판단을 할 수 있도록 일정 데이터에 가중치를 주는 것.
이것은 데이터의 편향을 만들어내기 때문에 가중치가 과하게 되면 더 이상한 결과가 나오기도 했습니다.
당시 같이 연구하던 친구(지금의 남편)과 "모든 데이터를 하나하나 인간이 넣어주고 가중치를 인간이 판단해야 한다면 이게 인공지능일까?" 라는 이야기를 나눴던 기억도 나네요.
그래서 3장을 더 재미있게 느낀 것 같습니다.
chatGPT, sora, bing, 기타등등의 무시무시한 ai들도 결국에는 인간이 하나하나 라벨링한 데이터를 입력을 해주어야 하고,
무수히 많은 데이터(빅데이터)에는 인간들의 편견이 내포되어 ai 역시 인간의 편견을 학습한다는 사실을 알게 되었습니다.
그 예로, '관리자'라는 키워드로 만든 이미지는 백인, 남성, 정장 차림의 그림이고,
'관리자' 에 '자애로운' 이라는 단어를 붙이면 그때서야 웃고있는, 백인 여성의 그림이 나온다는 내용을 통해
AI도 인종, 성별에 대한 편견을 가지고 있다고 이야기 합니다.
그리고 아메리칸 원주민 중 깃털을 장식으로 쓰는 부족은 소수임에도 불구하고 우리가 익숙히 알고 있는 깃털을 단 인디언이 데이터적으로 압도적으로 다수를 차지하고 있기 때문에 ai 역시 그러한 편견을 그대로 출력한다고 이야기 합니다.
하지만 우리는 "인공지능은 공정할 것이다" 라는 편견을 가지고 있고, "AI판사가 도입되어야 한다"라는 류의 이야기를 아주 쉽게 하고 있죠.
하지만 판례 역시 인간의 편견이 담긴 결과물이기에 시 ai는 공정한 판결을 내릴 수 없다는 결론에 이르러요.
(이건 [어떤 양형 이유 - 박주영]을 읽으면 절대 기계는 판사의 역할을 할 수 없다는 걸 느끼게 됩니다.)
그렇기에 인간이 만들어내는 모든 데이터( 말과 행동, 편견)을 그대로 학습하는 AI에게 "좋은 데이터가 필요한데,
그렇다면 우리는 어떻게 "좋은 데이터"를 만들 수 있을까요?
상냥한 김만권 박사님은 문제에 대한 해답도 주셨습니다.
우리가 만들어 내는 모든 데이터가 우리의 편견을 담고 있다면, 우리의 사랑도 담아낼 수 있을 것이라는 말이 깊게 다가왔습니다.
글을 적으며 다시 책을 훑다보니 빅데이터로 만들어지는 인공지능이 어린 아이와 다르지 않다는 생각이 드네요.
아이는 부모의 거울이라는 말이 있듯이, 어린 아이들은 부모의 말과 행동, 태도, 감정까지 그대로 내면화합니다.
그래서 아이에게는 [모범적인 부모]가 중요하다고 이야기 하죠.
모범적인 인간으로서 삶을 살아가며 생성되는 데이터(싫든 좋든, 기업에게 수집되는)가 더 좋은 인공지능을 만들 것이라는 아름다운 결론으로 급하게 글을 마무리 하겠습니다. ㅎㅎ
그럼 금요일 머비스 클럽에서 만나요!
저는 편견을 다 읽지 못한채, 참여합니다. 🥲