3년 후에 AGI(범용 인공지능)가 나올 수 있다는 논문 나옴(AI 논문)

[꼬마니체]

범용 인공지능(AGI)은 인간과 동등한 수준의 지능을 갖춘 인공지능을 뜻함

https://situational-awareness.ai/

Introduction - SITUATIONAL AWARENESS: The Decade Ahead

레오폴드&일리야 수츠키버의 논문

참고로 일리야 수츠키버는 Open AI에서 

AI에 대한 안전과 윤리를 담당하는 업무를 하다가 해고된 인물

대충 요약한 내용+개인적인 첨언

10년전 AI 모델들은 개와 고양이 구분조차 하질 못했음

2019년 GPT-2는 유치원생 수준의 AI로 그럴듯한 문장연결조차 잘 못하는 수준이었음

하지만 2024년 GPT-4는 똑똑한 고등학생 정도의 수준까지 올라왔고

대학생 수준의 AI까지 등장함

그리고 2027년에 이르면 더이상 AI 연구원이나 프로그래머조차도 필요 없어질거라고 함

왜냐면 AI가 AGI에 도달해서

AI가 인간과 동일한 지능을 가지게되어 자율적인 의사 결정 능력을 지니게되고

스스로가 자신을 연구하고 업그레이드 할 수 있게 될 것이기 때문임

그리고 이 시기가 되면 AI는 기하급수적으로 발전하게 될 거라고 함

예를 들어 지금 인간 엔지니어들이

성능이 2배 업그레이드된 새로운 GPT 버전을 만드는데 1년 걸린다 치면

AI가 스스로를 업그레이드 하기 시작하면

1년>6개월> 3개월> 1개월> 며칠> 그 이하의 시간 같은 식으로

발전 속도가 계속해서 가속도가 붙어서 성능향성의 텀은 계속 해서 짧아질거라는 거임

이 논문의 저자도 말하기를

2024년 쳇GPT-4를 학습시키는데 4개월이 걸렸지만

2027년에는 쳇GPT-4수준의 AI 학습에 1분이 걸릴걸로 예상하고 있음 

대충 이런 느낌임

특이점에 도달하면 시간이 갈수록 저 인공지능의 발전 그래프는 직각에 가까워질거임

그리고 이 눈문에서 말하는 2027년이 저 특이점이 될거라는 거고

AGI가 뭐 별건가? 그냥 더 성능 좋아진 쳇지피티 같은거 아냐?

라고 할 수 있는데

이런 말도 있음

AGI를 경쟁자들보다 6개월 먼저 만드는데 성공한다면 기술적으로 경쟁자들보다 6000년 앞선 것과 같다

- 닉 보스트롬의 "슈퍼 인텔리전스" 중에서

(옥스퍼드대 철학과 교수, 인류 미래 연구소 소장,인공지능과 기술적 특이점 분야의 세계적인 전문가)

AGI는 "초지능" 즉 "슈퍼 인텔리전스"의 최소필요조건인데

AGI까지만 도달하면 초지능까지는 얼마 안걸릴거라고 함

초지능은 정말 신에 필적하는 능력을 지니고 있다고 해도 과언이 아님

지금까지 인간이 수천년간 발전시켜온 문명 발전속도를 단 몇년안에 따라잡을 수도 있음

모든 질병을 정복? 인간을 다시 역노화시켜 젊게 만들기? 초전도체? 화성의 식민화?

모든게 가능해질 수도 있음 

그래서 초지능AI를 가진 이들(정부, 기업등)과 못가진 이들(정부, 기업)의 경제, 군사, 기술 수준 차이는

잉카인들과 스페인 콩키스타도르의 차이보다 더 커질거임

잉카인들을 학살하는 콩키스타도르

콩키스타도르가 남미에 도착했을때 잉카인들은 아직 석기시대~초기 청동기 시대에 머물러 있었다

대략 5000년 남짓의 시간적 차이가 있었던 셈

결국 가진 자와 못가진 자의 차이는

지금과 비교불가할 정도로 훨씬 벌어지게 될 것을 우려하고 있는데

AI를 개인이나 집단의 권력이나 욕망을 위해 악용 할 수도 있기 때문임

그래서 현재 상황이 핵폭탄이 처음 개발될 때보다도 더 위험하다는 소리도 나오고 있음

[참살]

아직멀었음. 그리고 성능의 기준도 에매하고.
특이점이 오려면 모델잋바뀌어야하는데 모델은 계속고정이라고 보면되서. 데이터로만 하기엔 한계가있음

[미소야2]

1분 1초 마다 엄청난 격차를 만든다면, 반대로 EMP로 1분만 전력을 끊어도 후진국 되는거 아님?

[하피]

3년이나걸림?

[버스기사박준선]

ㄷㄱ

[pershing]

요즘 느끼는데 gpt 광범위한 분야를 빠르게 대답할 수 있어서 사람 이상인듯..