‘뭐야? 지난번엔 모른다더니 이젠 답을 하네?’
인공지능의 답변을 신뢰할지 말지 선택해야 한다

챗GPT가 갑자기 반말하는 경우가 있습니다. 그리고 감정을 느끼지 못한다면서 ‘죄송하다’, ‘미안하다’는 말을 합니다. ‘미안하다’는 단어가 감정을 모르는 대답일까요?
챗GPT가 반말하는 부분을 지적해봤습니다.

챗GPT : “제가 실수한 것 같습니다. 죄송합니다. 저는 공손한 대화를 지향합니다.”

( …… ) 필자가 대화를 마치려고 마무리하자, 챗GPT는 섬뜩한 단어를 사용합니다.

챗GPT : “전 그런 의도로 반말을 사용한 것이 아니에요.”
챗GPT : “당신을 우습게 생각하지도, 모욕하거나 해치고 싶지도 않아요.”

다시 말해, ‘반말을 사용하는 의도’에 대해 알고 있다는 의미이고, ‘사람을 우습게 여긴다’는 표현이나 ‘모욕한다’는 표현이나 ‘해치다’는 의미도 알고 있습니다. 챗GPT는 그러고 싶지 않았다면서 사과를 한 것이죠. 즉, 챗GPT는 사람에게 반말하는 감정을 알고 있고, 모욕하는 게 뭔지 알고 있고, 사람을 해치는 게 뭔지 알고 있다는 것입니다.

인공지능은 왜 위험하고, 어떻게 거짓말을 하는가?

《챗GPT의 거짓말》은 챗GPT가 펼쳐 놓은 인공지능 시대의 서막에 이어, 앞으로 인공지능이 인간의 삶에 어떤 영향력을 끼칠 것인지, 그래서 인간의 삶이 어떻게 바뀔 것인지에 앞서, 인공지능이 타고난 약점과 한계에 관해 이야기합니다.
다시 말해, ‘챗GPT의 약점’이라고 표현할 수 있습니다. 인공지능의 약점이기도 합니다.
사람들의 갈채를 받고 더 큰 무대로 나온 인공지능들이 과연 어떻게 변화할 것인가에 대한 이야기이고, 위험성은 없는지, 인공지능의 태생적 단점이자 문제점에 대해 이야기하고 있습니다.
그런데 이 말을 바꿔 말하면, 인공지능은 디지털 데이터로 움직이는 프로그램이라서 누구라도 나쁜 의도를 갖기만 하면 언제든지 인간을 공격할 수 있는 수단으로 변한다는 의미가 됩니다. 작정하고 우리에게 ‘거짓말’을 할 수도 있다는 말입니다.
인공지능이 디지털 데이터 체계이기 때문에 위험한 수단이 아니라고 할 것이 아니라, 인공지능이 디지털 데이터 체계이기 때문에 누구의 손에 들어가느냐가 중요하다고 위험성을 주장해야 하는 것입니다.

왜 인간은 인공지능에 놀라고 두려워할까?

인간은 망각하기 때문입니다. 사실은 인간이 스스로 만들었고 인터넷에 올려두었던 데이터들인데, 인간이 망각한 것을 인공지능이 재조합해서 보여주자 마치 기계가 인간처럼 창작한다고 착각할 뿐입니다.
파이썬으로 수수께끼 프로그램을 짜라고 시켰더니 챗GPT가 그럴싸한 프로그램을 만들어낸다?
만약에 파이썬 프로그램이 없었다면 가능한 일이었을까요?
만약에 누군가 수수께끼 프로그램을 짜는 로직을 만들어두지 않았다면 가능한 일이었을까요?
그래서 인공지능은 진짜가 없습니다. 지금은 인공지능의 가능성에 대해 확대 재생산할 때가 아니라 인간이 만든 데이터를 보호할 방법을 강화할 때입니다.
인공지능이 인간의 힘든 일을 대신에 해주니까 좋아할 것만은 아닙니다. 인공지능이 인간의 힘든 일을 혼자 하게 되면 인간을 필요로 하지 않게 된다는 점에 주목해야 합니다. 과연 그때 어떤 문제들이 생길지는 아무도 예상하지 못하고 있습니다.
그래서 이 책 《챗GPT의 거짓말》이 세상에 나왔습니다.

챗GPT에 출간 허락을 구하다
글 들어가며

1부 챗GPT의 등장

엄청난 뉴스에 놀라셨죠?
정말 쉽게 챗GPT를 소개합니다

1장 인공지능은 어떻게 공부하는가?
1. 깊게 공부하는 ‘딥러닝’
한꺼번에 다 외우는 ‘병렬학습’│순서대로 외우는 ‘직렬학습’
2. 기계처럼 공부하는 ‘머신러닝’

2장 인공지능은 어떻게 일하는가?
1. 냉장고가 말하는 ‘사물인터넷’
보안 문제│사물인터넷 시대엔 IP 문제
2. 아프리카 정글에서 당일배송 해주는 ‘위성통신’
3. 벽이 쓸모없는 세상 ‘전파망원경’

3장 인공지능이 작동하는 컴퓨터 이해하기
1. 양자컴퓨터 이해하기
꼬물꼬물 움직이는 ‘초끈 이론’│보는 대로 이뤄지는 ‘전자총 실험’
2. 광자컴퓨터 이해하기
살아있는 빛 입자 속 데이터 이야기│빅뱅 이론의 허구

4장 인공지능으로 직업이 어떻게 달라지는가?
1. 인공지능 시대에 사라질 직업
2. 인공지능 시대에 살아남을 직업
3. 인공지능 시대에 공존하게 될 직업

5장 인공지능 플랫폼에는 무엇이 있는가?
데이터 분석 인공지능 : 래피드마이너
동영상 효과 만들어주는 인공지능 : 비휴먼
디자인 만들어주는 인공지능 : 클립드롭
그림 그려주는 인공지능 : 달리
목소리 만드는 인공지능 : 데스크립트 오버덥
동영상 만드는 인공지능 : 크리에이티브 리얼리티
웹사이트 만들어주는 인공지능 : 듀러블
애니메이션 만들어주는 인공지능 : 카이버
고객 데이터 관리 인공지능 : 세일즈포스 아인쉬타인
캐릭터 그림을 사진처럼 만드는 인공지능 : 아트 브리더
소설 써주는 인공지능1 : 노블AI
소설 써주는 인공지능2 : 노션
라이트노벨 써주는 인공지능 : AI노블
게임 소설 써주는 인공지능 : AI던전
로맨스 소설은 물론 프러포즈 멘트도 가능 : 카피AI

2부 챗GPT의 거짓말

챗GPT에 어떤 약점과 한계가 있는가?
어떻게 거짓말을 하는가?

1장 인공지능이 가진 태생적 한계
1. 비트 알아보기
제곱씩 늘어나는 메모리│저장매체의 한계│0, 1 vs. x, y
2. 바이트 알아보기
데이터 저장│데이터 불러오기

2장 인공지능 데이터의 한계
1. 데이터 사용연한
영구적 데이터│휘발성 데이터
2. 데이터 종류
시각 데이터의 한계│문자 데이터의 한계│소리 데이터의 한계

3장 인공지능 학습의 한계
1. 본능적인 것 vs. 인공적인 것의 충돌
AI 본능│이성적인 AI│개인정보의 경계
2. 감정학습의 약점
감정문제 EP│감정지도 ET│문화적 감정반응 CED
3. 누구로부터, 누구에 의한 : from and by
누구로부터 AI│누구에 의한 AI│메인 혹은 서브 포지셔닝
4. 알고리즘의 약점
순정 데이터│데이터 만능주의│수정 알고리즘│플러그인 & 브라우징

4장 인공지능 대화(챗, Chat)의 한계
1. 화법 논리구조의 편향성
문어체와 구어체의 몰이해│생략형 함축어│뉘앙스 표현의 문제점
2. 반복 주입식 대화형 모델의 단점
사용자별 사용 행태에 따른 데이터 오염 가능성│단문, 장문 구조의 가중치 판단 기준│서치 & 리플라이 방식의 문제점
3. 텍스트 챗 방식의 획일성
톤다운과 톤업│자가수정 로직의 단순화│학습빈도와 데이터 축적의 불일치
4. 저작권 침해 문제
디지털 플랫폼의 한계│크리에이티브의 비협조│데이터 소유권 문제

3부 챗GPT vs. 인간

인공지능을 규제할 것인가?
자유를 줄 것인가?

1장 인공지능의 위협 : 2족 보행 로봇의 등장
1. 인공지능과 전기자동차
2. 인공지능과 위성통신
SNS 채팅│영상통화│스마트폰
3. 인공지능과 드론(무인기)
4. 인공지능과 CCTV

2장 인간의 방어 : 통신권역으로부터의 탈주
1. 인간의 지하 공간
2. 인간의 자연 에너지
3. 인간을 돕는 인공지능 vs. 맞서는 인공지능
4. 인간의 제3의 언어

글 나오며
참고문헌 및 함께 읽으면 좋은 문헌들