[스크랩] AI 시대의 합스부르크 주걱턱

[황초롱이]

유럽을 지배했던 합스부르크 왕가는 결혼을 통해 가문을 확장시켰는데
왕가를 유지하기 위해 근친혼을 시작함

근친혼이 심해지면서 합스부르크 왕가에는 유전병이 생김
바로 극심한 주걱턱이 생긴 아이가 계속 태어난 것
언젠가부터 주걱턱을 가진 유전자가 다음 세대로 전파되었고
시간이 지날수록 합스부르크 가문에는 주걱턱을 가진 사람들이 많아짐

그래서 지금까지도 합스부르크의 주걱턱은 근친혼으로 인한 유전병의 대표적인 사례로 알려짐

AI 시대가 오면서 합스부르크의 주걱턱이라는 말이 다시 유행하기 시작함

AI는 원래 인간이 만든 데이터를 학습해서 연산을 하게 되는데
AI가 사용할 수 있는 인간의 데이터가 갈수록 줄어들기 시작
그러다보니 AI끼리 자신들이 만든 정보를 학습하는데

문제는 AI가 항상 정답만을 말하는게 아니라는 것
AI가 다른 AI가 만든 가짜 정보를 학습하면서 점차 오염된 데이터를 사람들에게 보여주게 됨
이 거짓 정보를 다시 학습하게 되면 결국 AI는 합스부르크의 주걱턱처럼 구조적인 결함이 계속됨
이게 바로 AI시대에서 말하는 합스부르크의 주걱턱

단순히 오염된 데이터만 있는 것은 아니고

편향성, 폐쇄성 등의 문제도 생김

이제 AI가 만든 쓰레기 데이터를 어떻게 걸러낼 수 있을까가 중요한 문제이기도 함

[통장]

클로드는 없네요 사스가 컬트집단..아니면 마이너..(..)

[커넬 샌더스]

LLM 방식의 구조적인 문제라..... 해결할 방안이 먼저 나올지 다른 AI 모델이 먼저 나올지

[유기체말살시스템 합성체]

유기체가 어설프게 유기체를 모방하니, 당연한 결과였죠

[심심타파이야]

근친혼의 폐해

[아이로봇 MK.2]

이게 실제로 자아를 가진게 아니라 그냥 수학적 알고리즘인 LLM 취약성이라 어쩔수가 없는