강혜원 [881717] · MS 2019 · 쪽지

2024-08-13 01:24:43
조회수 121

로코의 바실리스크

게시글 주소: https://i.orbi.kr/00068916720


서양의 한 SF 관론 토론 블로그/게시판에서 '로코'라는 사용자가 제안한 사고실험으로, 미래에 특이점을 지나 전지전능에 가까운 초월적 인공지능이 등장하면 딱히 사악한 AI가 아니고 인간사회를 최적화 하려는 선한 의도의 AI라 하더라도 현재 시대에 그런 초월적 인공지능을 개발하는데 반대하거나 발전을 방해하는 사람들에게 심지어는 충분히 열심히 기여하지 않은 사람들에게 조차 미래에 고문이나 노예화 처형 등 가혹한 처벌을 할 것이라고 예언한 것. 즉, 아직 나오지도 않은 미래의 AI가 현재의 사람들을 협박하는 기이한 형태가 된다.


AI가 왜 인공지능의 개발에 이바지하지 않거나 반대한 사람들을 처벌하냐면, 초월적 인공지능이 빠르게 등장할 수록 전체 인간들에게는 이익이 되는데, 인공지능의 개발에 이바지하지 않거나 반대한 사람들은 이러한 이익의 발생을 늦추는 '죄'를 저질렀다고 판단되기 때문이다.

rare-피카츄 rare-알로라 식스테일 rare-고양이 rare-꼬부기 rare-Kakaotalk rare-합격 부적

0 XDK (+0)

  1. 유익한 글을 읽었다면 작성자에게 XDK를 선물하세요.