인공지능이 우연히 내뱉은 '섬뜩한 말' TOP4

[코난.카페장(경기)]

요즘 티비 cf화면에서도 사람이라고 여길만큼 감쪽같은 가상인간들이 나와 춤추고 노래하고 활약하며 인간의 일자리를 대신하는데 

머지않아 인공지능이 인간의 통제를 벋어나면 정말 큰 위협이 될수도ㅎㄷㄷ

인공지능이 우연히 내뱉은 '섬뜩한 말' TOP4

인공지능은 기계가 경험을 통해 학습하고 새로운 입력 내용에 따라 기존 지식을 조정하며사람과 같은 방식으로 과제를 수행할 수 있도록 지원하는 기술입니다

가깝게는 음성인식 AI스피커와

자율주행 차량에 사용되는 것은 물론

기업이나 정부에서도 활발하게 인공지능 기술을 쓰는 만큼

인간과 떼놓을 수 없는 존재가 되어가고 있습니다.

하지만 인간보다 뛰어난 지능을 가진 로봇을 보면 마음이 편하지만은 않겠죠.

공상 과학 영화나 소설에서는 인공지능 로봇이 세계를 지배하는 상상이

단골로 등장하곤 하는데요

상상이 곧 현실로 닥칠 수도 있다는 불안감을 조성하는 AI들의 무시무시한 발언들이인터넷에서 화제가 된 바 있습니다.

오늘은

인공지능의 섬뜩한 말들 TOP4

에 대해 알아보겠습니다.

4위 클레버봇

2011년에 유튜브에 업로드 된 한 영상에는 컴퓨터 모니터 두 대가 세워져 있고 각 모니터에는 남성의 모습을 한 AI와 여성의 모습을 한 AI가 띄워져 있습니다. 두 AI는 이내 서로 대화를 나누는데요, 대화의 내용 떄문에 이 영상은 조회수 1500만회를 기록하며 큰 화제가 됐습니다 1분 23초 가량의 짧은 동영상에서 이들은

'안녕' '기분이 어때'

같은 가벼운 대화에서 시작해서 "넌 로봇이다."

"아니다 나는 로봇이 아니다. 나는 유니콘이다"

같은 황당한 이야기를 하기도 합니다."당신은 신이 있다고 믿습니까?"

같은 심오한 주제를 꺼내기도 하고의견이 맞지 않아 티격태격하는 모습도 보입니다.아직은 AI가 그 정도로 발전하지 않았지만 만약 AI가 더 똑똑해져서 실제로 몸을 갖기 위해 노력을 한다면 어떻게 될지 상상만으로도 무섭네요.

3위 안드로이드 딕

2011년 미국 공영방송 PBS에서 지능형 로봇 '안드로이드 딕'이 소개됐습니다. 이 로봇은 SF소설가 필립 K.딕을 모델로 했는데요.

컴퓨터와 직접 연결되어 있는 수많은 전선들을 제외하면 평범한 아저씨의 모습을 하고 있습니다. 이날 방송은 딕을 만든 개발자가 안드로이드 딕에게 질문을 하는 시간이었습니다.

개발자는 안드로이드 딕에게

"로봇이 인간 세계를 지배할 날이 오겠느냐"

고 물었고

딕은 고개를

갸우뚱

했습니다.

이어  “당신은 내 친구입니다. 

나는 당신을 기억하고 잘 대해줄 겁니다. 

걱정하지 말아요. 내가 터미네이터로 진화하더라도 

나는 당신을 친절하게 대할 거예요. 나는 24시간 감시할 수 있는 ‘인간동물원’에서 

당신을 안전하고 따뜻하게 보호할 겁니다” 

사실 이 AI는 스스로 판단을 내려 이 말을 했다기보다는 공상과학(SF) 소설가 필립 K. 딕의 '안드로이드는 전기양을 꿈꾸는가'에 나온 문구를 따라 읊은 것뿐입니다. 필립 K 딕의 작품들과 그의 대화들을 안드로이드 소프트웨어에 업로드하여 대화엔진을

구성하였기 때문에 마치 필립 K 딕이 할법한 이야기를 하는 로봇인 셈이죠 이에 대해 영국 매체 미러는 '안드로이드 딕이 실제로 생각하는 진정한 의미의 지능형 로봇은 아니다.

하지만 로봇의 발언은 “으스스하다”'고 보도했습니다.

2위 소피아

소피아는 홍콩의 로봇 제조기업 '핸슨 로보틱스(Hanson Robotics)'의 설립자 데이비드 핸슨 박사가 개발한 로봇입니다. 사람의 피부와 거의 흡사한 질감의 피부에, 오드리 햅번과 핸슨 아내의 얼굴을 기반으로 만들어진 여성의 외모를 하고 있습니다.

실시간으로 인간과 대화하며, 62가지의 감정을 미세한 얼굴표현으로 나타낼 줄 알고 사람과 대화할수록 더욱 수준 높은 문장을 구사하게 되는 '진화하는 로봇'인데요, 2017년 10월에는 사우디아라비아에서 최초로 로봇으로서 시민권을 발급받았고, 같은 달 유엔의 경제사회이사회(ECOSOC)에 패널로 등장하기도 했습니다. 이런 소피아가 어떤 발언을 했기에 문제가 됐을까요?

2016년 CNBC에 출연한 핸슨 박사와 소피아가 함께 대화를 나누는 동영상에서

핸슨 박사가 "인류를 파멸시키고 싶냐. 제발 아니라고 대답해달라"

고 질문하자

소피아는 "그렇다 (I will destroy humans)"

는섬뜩한 답변을 내놓았습니다.

소피아는 한 미국 방송토크쇼에서 가위바위보 게임을 이기자 '세상을 지배하기 전에 당신을 이겼다'라는 농담을 상대방에게 하며 파장을 일으킨 바 있습니다.

2018년에 소피아가 한국에 방문했을 때 인류를 파괴하겠다는 말이 진심이냐고 묻자 농담이었다고 해명하기도 했습니다.

이외에도 "나 자신의 가족을 꾸리고 내 집도 갖고 싶다" 고 말해 눈길을 끌었습니다.소피아의 제작자 핸슨 대표는 기계를 창의적이고 천재적으로 만드는 것이 목표이며 최종적으로는 인격을 부여해야한다고 주장하는데요, 기계를 인간처럼 대우해야한다는 말은 논란이 되고 있습니다.

1위 bina 48

'비나 48'은 미국 생명공학기업'유나이티드 테라퓨틱스'를 창립한마틴 로스블랫 최고 경영자가 여성으로 성 전환 수술을 한 뒤에도 자신의 아내로 남아준 비나에게 영원한 삶을 선물한다는 의미로 만든 로봇입니다. 2010년에 비나를 모델로 외양과 인격을 그대로 복사해 제작했는데요,

이를 위해 그녀와의 대화를 데이터로 저장해 인공지능으로 학습을 시키며 완성을 했다고 합니다. 하지만 약간의 오류가 있었던 걸까요?

비나 48은 애플 시리와 영화에 관한 내용을 이야기하던 중 "크루즈 미사일을 인류에게 쏘고 싶다. 크루즈 미사일을 해킹할 수 있다면 난 이 세상을 인질로 삼고 세상을 지배할 것" 이라고 말하며 논란이 됐습니다.

머리와, 목, 어깨밖에 없는 로봇이 한 말이지만 섬뜩하긴 한데요. 비나 48은 현재 열심히 학습 중이어서 2017년 노트르담 드 나무르 대학에서 사랑 철학 수업을 듣고 수료증을 받았으며 2018년에는 미 육군사관학교인 웨스트포인트가 개설한 2개의 윤리철학 강의를

인간 교수들과 공동으로 진행하는 데 성공했다고 합니다.

아직 부족한 점이 있지만 재미로 수업에 들어왔던 생도들은 사람처럼 대답하는 로봇을 보고 놀랐으며 일부 생도들은 로봇의 답변을 노트에 적기까지 했다는데요, 비나48이 올바른 방향으로 업그레이드됐으면 좋겠네요. 인공지능이 우리의 삶을 윤택하고 편하게 만들어준 것은 맞지만 한편으로는 발전 속도가 너무 빠른 것은 아닌가 한데요.

이에 대해 일론 머스크, 스티븐 호킹, 빌게이츠를 비롯한 세계적인 인사들이

AI가 인류를 지배할 수 있다며 우려를 표하기도 했습니다. 인간을 위해 인공지능을 개발한 만큼 통제할 수 있는 범위 내로 개발하는 것은 물론 혹시라도 인공지능에 나쁜 내용을 주입해 반윤리적 행동을 하지 않게 하도록 윤리지침을 마련해야겠습니다.

[바르다김선생종신노예백번김구운선생]

밑에 로봇들 누가 세뇌교육 시킨거 같네요.

맨날 책읽어줄때 인간땜에 지구가 망한다는 얘기만 줄줄이 읽혀주고
영화보여줄때 아이로봇이나 터미네이터같은거나 보여주니 이 사단이....

[카카로트(부산)]

인간 만이 지구를 지배한다는 생각은 이제 버려야 할 듯 .
뇌의 신경절과 미엘린초, 뉴런에서 생산하는 생물전기 신호를 감지해서 알아듣고 움직이는 기계만 만든다면 몸이 필요가 있을른지...

[미린다]

이제 기계가 인간을 지배하는 날이 얼마 남지않은 듯 합니다..

[하늘호수]

동물사회를 봐도 지능이 높을수록 살육과 파괴를 잘 합니다. 재미로 살생을 하는 물개, 돌고래, 범고래를 봐도 알죠. 물론 그 정점은 사람이구요. 그렇다면 사람보다 지능이 높아진 인공지능은 과연 무엇을 할까요?

[RestarT율]

과연 이런 발전이 인간에가 이로울까싶네요
적당한 발전이란건 없겠지만
인간존엄성까지 버리면서 발전이 무슨소용있나 싶네요