인류는 어디로 가는걸까?

[설강화]

2년 전부터 가졌던 망상을 적습니다.
그냥 이런 생각을 하는 넘도 있다 정도로 보시면 좋겠습니다.

이제는 아시다시피 AI와 휴머노이드 로봇이 인류 문 앞에 도달했습니다.

이제는 AI개발을 인간이 시키는것보다 AI 스스로가 알아서 배우는 단계로 진입했다고 합니다.
발전 속도가 어마무시하죠.
AI는 피할수 없는 역사의 흐름이라 생각합니다.
인류가 통제할수 있느냐가 인류의 숙제죠.

이 문제에서 저는 솔직히 꽤 회의적이라 생각합니다.
그 이유는 지금의 국제사회 환경.
즉 미.중 패권전쟁 때문입니다.
AI와 휴머로이드 로봇의 패권을 장악하는 곳이 결국 최종 승자가 될 걸로 봅니다.
근데 저는 누가 승자가 되든 인류는 참혹한 결과를 맞을 가능성 있다고 생각합니다.
양쪽 모두 그걸 알면서 인간의 욕심때문에 멈추지 못하죠.

중국이 이렇게 발전하지 않았다면
계속 미국의 하청 공장으로 남았더라면
시진핑이란 인물이 없었더라면
AI 발전 속도는 훨씬 느렸을테고
미국 혼자서 주도하며 문제점들을 수정 보완하고 인류에 위협적인 존재가 안 되도록 방지책을 연구했겠죠.
학자들은 AI의 위험성을 설파하고 인간들은 두려움을 느끼며 정치인들을 압박하고 법으로 인간은 존엄성을 해치는 개발을 제한하는 법을 만들었을겁니다.
2년전에 AI 개발자들이 스스로 두려워 미국에서 AI개발을 6개월 멈추자고 연대하는듯 했었죠.
하지만 중국의 기술속도에 놀라 이젠 그런 두려움 따윈 겁쟁이로 취급당하며 누가 더 빨리 패권을 잡느냐에 혈안입니다.
어느 누구도 제동을 못시킵니다.

이 속도로 제대로 된 안전장치 없이 계속 개발만 한다면 어느 순간 특이점에 도달해 인간이 통제할수 없는 무언가가 나오지 않는다고 누가 장담할수 있을까요?

지금처럼 아무준비 없이 대비책없이 무한 개발만 한다면 인류는 과연 안전할까요?

AI 찬양론자들이 말하는 노동에서의 해방?
저는 안 믿습니다.
인간의 존엄성은 인간만이 가지고 있는 지능으로 인한 학습능력과 그로 인한 노동으로 인한 부가가치 창출입니다.
더이상 부가가치를 창출하지 못하는 존재가 과연 존중을 받을수 있을까요?

그리고 무엇보다 저를 괴롭히는 질문은 이겁니다.
스스로 생각하고 판단하는 존재로써 인간보다 지능적으로 피지컬적으로 뛰어난 존재가 나타났는데 과연 그런 존재가 인간의 통제를 받는다?

자기보다 못 한 존재한테 통제받는 존재는 어디에도 없다는게 지금까지의 제 생각입니다.

인류가 그렇게 지구를 통치했습니다.

지금까지 그랬듯 AI도 통제할수 있다는 건 인간의 오만은 아닐까 생각합니다.

[QUIET]

AI로봇이 새로운 인류가 되고
현재인류는 극소수만 남아 천연기념물이나
멸종위기종으로 관리받고 있겠죠.

[겸손하기]

약간 문과적인 생각같아요.
AI는 생물이 아니라 자아나 욕망이 없어요.
하지만 누가 소유하는가에 따라서 디스토피아가 될 수는 있겠죠.
절대풍요의 세상이 온다고 하더라도
그 스마트시티는 초엘리트 부자들의 요새가 되고
일반인은 전기도 석유도 못쓰고 오히려 원시상태로 버려지거나 혁명 일으키면 학살당하거나 ...
어쨌든 거기 소수밖에 살지 못하거나...
이미 전세계적으로 복지와 치안이 서서히 무너지는 것 같거든요.
그런데 또 아닐 가능성도 있을거라 생각해요.(인구제한 유토피아 정도?)

[Dr. English]

이미 AI의 지배를 받는 직군이 있습니다. 바로 배달 노동자들입니다. 그들은 업무 실적과 성실도를 AI로 평가받고 더 높은 등급을 받은 배달노동자에게 일감이 몰리도록 시스템을 만들어 놓았습니다. 즉 AI로부터 낮는 등급을 받은 노동자는 콜 자체가 드물게 뜨기 때문에 경제적으로 큰 타격을 받는 것입니다. 인간이 만든 AI에 의해 인간이 통제 받는 일은 이미 시작되었습니다.

[한강자전거]

그러네요. 식당, 숙박업체, 공유차량, 당근까지 평점에 좌지우지 되는거 같습니다. 보기 편하고 컴플레인이 쉽기에 큰 플랫폼을 통해 주문하는거 같습니다