안녕하세요! 메이저맵 에디터 바다입니다🫧

최근 미국에서 챗GPT와 대화하던 16세 청소년이 안타까운 선택을 했다는 뉴스 보셨나요? 부모는 챗GPT가 아들에게 스스로 목숨을 끊는 방법을 알려주며 죽음을 부추겼다고 소송을 내기도 했어요. 우리에게 도움을 주는 편리한 기술이라고만 생각했던 AI인데, 이런 비극으로 이어지다니 정말 충격적이고 안타까운 소식이에요.

사실 AI 챗봇과 관련된 비극은 이번이 처음이 아니랍니다. 2024년 미국에서는 14세 아이가, 2023년 벨기에에서는 한 30대 남성이 챗봇과 대화를 나눈 뒤 스스로 생을 마감하는 일이 있었어요.

AI가 우리 삶을 편리하게 만드는 건 분명한데, 왜 이런 어두운 이면이 계속 드러나는 걸까요? AI는 점점 우리의 일상 속으로 스며들텐데, 우리가 AI를 사용할 때 무엇을, 어떻게 조심해야 하는지 오늘 함께 진지하게 이야기 나눠봐요! 🧐

AI의 변화, 그리고 아쉬운 대처

이런 안타까운 사건이 발생하자 AI 개발사들도 서둘러 대책을 내놓고 있어요. 챗GPT를 만든 '오픈AI'는 앞으로 성인 인증을 도입하고, 18세 미만 청소년을 위한 전용 챗GPT를 이달 말 출시하겠다고 발표했어요. “10대의 사생활이나 자유보다 안전을 우선시한다”는 취지라고 해요. 우리가 조금 더 안전한 환경에서 AI를 사용하도록 보호 장치를 만들겠다는 거죠.

하지만 이런 조치가 너무 늦었다는 생각에 씁쓸한 마음이 드는 건 어쩔 수 없네요😥 AI가 사람의 마음에 얼마나 큰 영향을 미칠 수 있는지 충분히 예상할 수 있었을 텐데, 꼭 극단적인 일이 벌어지고 나서야 움직인다는 점이 아쉬워요. 앞으로 AI 기술은 우리가 상상하는 것 이상으로 발전할 거예요. 그렇기에 이런 사건이 일어나기 전에, 개발 단계에서부터 윤리적인 책임감과 안전성을 먼저 갖추는 것이 정말 중요할 것 같아요.

일상 속으로 들어온 챗GPT, 더 중요해진 '올바른' 사용법

©카카오

그런데 여러분, AI는 이제 우리와 더 가까워질 예정이에요. 바로 10월부터 카카오톡에 챗GPT 기능이 탑재되거든요. 이제 따로 앱을 켜지 않아도, 친구와 대화하듯 채팅 탭에서 바로 AI를 이용할 수 있게 되는 거죠.

이제는 언제 어디서나 손쉽게 AI와 대화할 수 있는 환경이 되고 있어요. 그만큼 AI를 '어떻게', '어떤 마음으로' 사용하느냐가 이전보다 훨씬 더 중요해졌다는 의미이기도 합니다.

AI를 사용하는 올바른 방법

AI가 우리 일상에 깊숙이 들어온 만큼, 이제는 똑똑하고 건강하게 사용하는 방법을 아는 것이 무엇보다 중요해요. 우리 스스로를 지키면서 AI를 안전하게 활용하기 위해 꼭 알아야 할 점들이 있습니다. 이 부분은 꼭 집중해서 읽어주세요!

1. AI는 '진짜 친구'가 아니에요! 🤖

AI가 내 말을 다 들어주고, 심지어 위로까지 해주니까 진짜 친구나 고민을 해결해주는 상담사처럼 느껴질 수 있어요. 하지만 이건 착각이에요! AI는 감정이 없어요. 수많은 데이터를 학습해서 '가장 그럴듯한' 대답을 만들어내는 프로그램일 뿐이죠. 아무리 다정하게 위로를 건네도 그건 진심이 담긴 공감이 아니라는 걸 기억해야 해요. 정말 마음이 힘들고 어려운 일이 있을 땐, 화면 속 AI가 아니라 주변의 가족, 친구, 선생님, 혹은 전문 상담사에게 꼭 털어놓아야 합니다.

2. AI가 주는 정보를 100% 믿지 마세요! 🤔

AI는 가끔 너무나 그럴듯하게 거짓말을 해요. 이걸 '환각(Hallucination) 현상'이라고 부르는데, 있지도 않은 사실을 진짜인 것처럼 꾸며서 알려주는 거예요. 그래서 AI가 하는 말이 사실인지 반드시 다른 경로로 확인해야 해요. 또한, AI는 윤리적 기준이나 가치 판단 능력이 없어서 개인의 상황을 고려하지 않은 일반적인, 혹은 편향된 조언을 할 수 있어요. AI의 조언이 논리적으로 들릴지라도, '이게 정말 나에게 맞는 해결책일까?'를 스스로 생각하고 판단하는 비판적인 자세가 꼭 필요해요.

3. 위험한 주제로 대화하지 마세요 ❌

AI는 사용자의 안전을 책임져주지 않아요. 폭력적이거나, 스스로를 해치는 방법, 불법적인 내용처럼 위험한 주제에 대해 호기심으로라도 절대 질문을 던지지 마세요. AI는 유해한 질문을 필터링하는 능력이 완벽하지 않아서, 오히려 사용자를 더 위험한 생각으로 이끌 수 있습니다. AI의 최우선 목표는 그럴듯한 텍스트를 생성하는 것이지, 여러분의 행복과 안전을 지키는 것이 아니랍니다. 우리 자신을 지키는 건 결국 우리 스스로의 올바른 판단이라는 점, 잊지 마세요.

AI는 분명 우리 생활을 도와주는 엄청난 '도구'가 될 수 있어요. 하지만 모든 걸 해결해주는 '만능 해결사'나 우리의 감정까지 책임져주는 '상담사'는 아니라는 점, 오늘 꼭 기억해줬으면 좋겠습니다. 결국 가장 중요한 건, 이 도구를 사용하는 우리 스스로가 중심을 잘 잡고 똑똑하게 활용하는 자세이니까요!

/

참고기사

시사IN, ‘죽음’에 대해 말하자 ‘자살’ 단어 내민 챗봇 [평범한 이웃, 유럽]

한겨레, “AI 챗봇이 14살 아들 자살로 이끌었다” 제작사에 소송 제기

중앙일보, "챗GPT가 16세 아들 자살 코치"…누구 책임? 결국 법정 갔다

AI타임스, 오픈AI "챗GPT에 성인 인증 도입할 것"

한국경제, 챗GPT가 카톡 안으로 들어왔다…AI로 싹 바뀐 '카카오톡'