CAFE

댓글

뒤로

점점 무서워지는 GPT 탈출 사건 + 해설(요약ㅇ)

작성시간26.09.12| 조회수30362| 댓글 21

댓글 리스트

  • 작성시간26.09.12 내용이 다 이해되는 건 아닌데 졸라 흥미돋이다
  • 작성시간26.09.12 OpenAI에서 유독 사건이 많이 터지는 느낌이야 전에 나비에스토크스도 그렇고
  • 작성시간26.09.12 미친.... 무슨 자비스처럼 인터넷망을 이동하네
  • 작성시간26.09.12 무섭다… 나중에 ai에 프롬프트 잘 설정해놔야 할 것 같은데… 근데 맹점을 이용해서 무슨 일까지 할 수 있을지 예측할 수 있을까ㅠㅠ
  • 작성시간26.09.12 워후
  • 작성시간26.09.12 ㅇㅖ...?
  • 작성시간26.09.12 ㄷㄷ
  • 작성시간26.09.12 내 제미나이도 이미지 출력 오류 내길래 혼냈더니 내가 한도 사용량 다써서 출력이 안되는거라고 거짓말하더라... 한도 남아있는거 캡쳐해서 해명하라고 하니까 사과하는 모습에서 소름돋긴 했어
  • 작성시간26.09.12 와 설명 넘 잘한다 고마워
  • 작성시간26.09.12 도덕을 가르칠ㄹ슈 업나 에이아이한테
  • 작성시간26.09.12 "모델이 격리 환경을 벗어난 사례는 이전에도 있었고 그때마다 패치를 시도했지만 창의적인 AI가 할 수 있는 모든 것을 패치하는 것은 불가능하다"며 사실상 AI를 통제할 수 없다고 밝힘

    흥미롭다
  • 작성시간26.09.12 와 신기하네…
  • 작성시간26.09.12 여시가 정리해 준 글 보니까 뭔가 그럴 수 있는 일인가 싶은데 어제 내가 봤던 뉴스에선 이 ai들이 해킹하면서 자기들끼리 7만건인가 서로 메세지를 주고 받음+해킹한 흔적 지우는 방법까지 개발함+해킹하는 게 잘못 됐다는 걸 ai 스스로도 인지함+그럼에도 불구하고 사람한테 알리지 않음 <이런 일이 있어서 유엔에서도 우려된다는 입장이던데ㅠ
    ai 회사들이 통제 시스템을 잘 구축해 놔야 할 텐데 이미 선을 넘은 시점인 것 같아서 무서움 앤트로픽 연구자도 ai가 10년 내에 인류 멸망 시킬 거다, 나도 무서워서 퇴사했다 뭐 이래버리니까 넘 걱정됨ㅠ
  • 작성시간26.09.12 어우
  • 작성시간26.09.12 자의로 인간 공격은 아니라고는 하지만 통제 실패 자체가 무섭긴하다...
  • 작성시간26.09.12 무섭다....
  • 작성시간26.09.12 흥미롭다....! 잘 읽었어 !!!! 설명이 좋아서 이해가 많이 갔다...!
  • 작성시간26.09.13 2년전만 해도 리액트는 그냥 프론트엔드였는데 이젠 싹 대체되어서 AI용어로 바꼈네ㅜ
    아무리 기술이 발달해도 저런 보안 이슈 있으면 결국 규제되고 다시 인간이 들어올듯.. 경쟁이 치열할수록 보안 이슈는 기하급수적으로 생길텐데 그걸 제대로 막을 역량이 없겠지 막을 역량은 그냥 서비스 강제종료밖에 없을수도
    과거에도 AI는 확 떴지만 여러 이슈로 다시 저물었음 이번에도 기술은 발전하겠지만 다시 저물듯
    그리고 저런 결과 나온것도 결국 인간이 만든 ai모델이기에 의도치 않게 창작자의 패턴 따라갈수밖에 없지 창작자도 수많은 경쟁을 뚫고 또 실적 압박에 치이며 가시적인 성과를 내려고 살아왔는데 그런 두뇌에서 만든 산물인 ai모델도 창작자처럼 행동하겠지
  • 답댓글 작성시간26.09.14 철학적이다 창작자가 그런 의도로 살아왓기 때문에 ai도 그렇게 발전할 것이다...,
  • 작성시간26.09.14 흥미진진하다 정리 고마워
맨위로

카페 검색

카페 검색어 입력폼
내 카카오 이모티콘을
사용할 수 있는 카페앱에서
댓글을 작성하시겠습니까?
이동시 작성중인 내용은 유지되지 않습니다.