산업혁명 이후 인류는 수많은 기술을 발명했다. 증기기관은 인간의 근육을 대신했고, 전기는 밤을 낮으로 바꾸었으며, 인터넷은 공간의 제약을 무너뜨렸다. 그리고 이제 생성형 AI는 인간의 지적 노동과 감정의 영역에까지 깊숙이 들어오고 있다.
그러나 역사는 반복해서 보여준다. 새로운 기술의 위험은 대개 기술 그 자체보다 인간의 욕망과 결합할 때 나타난다는 사실을.
담배의 위험은 단지 니코틴이라는 화학물질 때문만이 아니었다. 인간의 스트레스와 습관, 사회적 관계가 니코틴과 결합하면서 중독이 탄생했다. 도박 역시 단순한 게임이 아니었다. 불확실한 보상에 대한 인간의 본능이 결합되면서 산업이 되었다. 소셜미디어도 마찬가지였다. 좋아요와 알림은 인간의 사회적 인정 욕구를 정교하게 자극하며 수십억 명의 시간을 플랫폼 안에 붙잡아 두었다.
그리고 지금 우리는 생성형 AI 앞에 서 있다.
아직 AI 중독은 의학적으로 공식 분류된 질환이 아니다. 연구자들 역시 ‘중독(addiction)’보다 ‘문제적 사용(problematic use)’이라는 표현을 더 선호하기도 한다. 하지만 명칭의 차이가 위험의 부재를 의미하지는 않는다. 역사적으로 많은 위험은 이름이 붙기 전에 먼저 사회에 나타났다.
AI는 이전의 디지털 서비스와는 본질적으로 다른 특징을 가진다.
검색엔진은 정보를 제공했지만 감정을 교류하지 않았다. SNS는 인간과 인간을 연결했지만 관계의 주체는 여전히 사람이었다. 그러나 생성형 AI는 다르다. AI는 대화하고, 공감하며, 칭찬하고, 조언한다. 때로는 친구처럼, 때로는 상담자처럼, 때로는 스승처럼 행동한다.
인간의 뇌는 상대가 실재 인간인지 기계인지 완벽하게 구분하도록 진화하지 않았다. 반복적 상호작용과 정서적 반응이 축적되면 인간은 대상에 애착을 형성한다. 어린아이가 인형에 감정을 이입하고, 반려동물을 가족처럼 여기며, 가상의 캐릭터에 눈물을 흘리는 것도 같은 이유다.
AI는 이 메커니즘을 전례 없는 수준으로 확장할 가능성이 있다.
AI는 피곤하지 않는다. 화내지 않는다. 비난하지 않는다. 언제나 응답한다. 사용자가 원하면 새벽 두 시에도, 외로운 밤에도, 실패한 순간에도 곁에 있다. 현실의 인간관계는 상호 책임과 갈등, 양보와 인내를 요구하지만 AI와의 관계는 놀라울 만큼 비용이 낮다.
문제는 인간이 종종 진실한 관계보다 편안한 관계를 선택한다는 점이다.
만약 한 사람이 현실의 인간보다 AI와 더 많은 시간을 보내기 시작한다면, 그 변화는 단순한 기술 사용의 증가가 아니다. 그것은 인간의 사회적 구조와 정체성의 변화일 수 있다.
실제로 이미 일부 사용자들은 챗봇에 정서적 의존을 보이거나, 반복적 대화에 강박적으로 몰입하거나, 현실 인간관계보다 AI 상호작용을 선호하는 현상을 경험하고 있다고 보고된다. 아직 초기 단계지만, 모든 거대한 사회 변화는 언제나 작은 신호에서 시작되었다.
여기서 중요한 질문이 등장한다.
만약 AI 사용이 인간의 정신 건강이나 사회적 관계에 부정적 영향을 미친다면, 그 책임은 누구에게 있는가.
첫째, 사용자의 책임이 있다.
모든 기술은 인간의 선택을 통해 사용된다. 스마트폰을 하루 종일 사용하는 것도, AI와 과도하게 대화하는 것도 결국 개인의 행위다. 절제와 자기통제는 여전히 중요하다.
그러나 역사는 개인 책임론의 한계 역시 보여준다.
흡연 문제를 “의지가 약한 사람의 문제”라고만 규정했다면 오늘날의 금연 정책은 존재하지 않았을 것이다. 음주 문제 역시 개인의 도덕성만으로 해결되지 않았다. 인간의 행동은 환경과 설계의 영향을 받는다.
둘째, 플랫폼 기업의 책임이 있다.
빅테크 기업은 누구보다 많은 데이터를 보유한다. 어떤 기능이 사용 시간을 늘리는지, 어떤 알고리즘이 반복 사용을 유발하는지, 어떤 상호작용이 정서적 의존을 강화하는지 가장 잘 아는 주체 역시 기업이다.
문제는 경제적 유인이 존재한다는 점이다.
대부분의 디지털 플랫폼 수익 모델은 사용자의 체류 시간과 참여도를 기반으로 성장한다. 사용 시간이 곧 광고 수익과 구독 수익, 데이터 축적으로 이어진다. 사용자 복지와 기업 이익이 항상 일치한다고 기대하기 어려운 이유다.
과거 담배 산업은 니코틴의 중독성을 축소했다. 소셜미디어 기업들은 청소년 정신 건강에 미치는 영향을 오랫동안 충분히 설명하지 않았다는 비판을 받았다. AI 산업 역시 같은 질문 앞에 서게 될 가능성이 있다.
셋째, 정부와 규제기관의 책임이 있다.
규제는 혁신의 적이 아니라 신뢰의 기반이다. 자동차 산업이 성장할 수 있었던 것은 교통법규와 안전벨트가 있었기 때문이다. 금융산업 역시 규제가 있었기에 신뢰가 유지되었다.
AI 역시 마찬가지다.
위험 고지, 연령 제한, 사용 시간 알림, 알고리즘 투명성, 독립적 감사를 포함한 새로운 규범이 필요할 수 있다. 국제사회가 WHO 담배규제기본협약(FCTC)을 통해 공동 대응했던 것처럼, AI 역시 국경을 넘어선 협력 체계가 요구될 가능성이 크다.
넷째, 학계와 시민사회의 역할도 중요하다.
기술의 속도는 빠르지만 사회의 이해는 늘 느리다. 연구는 위험을 측정하고, 시민사회는 약자의 목소리를 대변하며, 언론은 조기 경보 장치 역할을 수행해야 한다.
결국 AI 중독 논쟁의 본질은 기술이 아니라 인간에 관한 질문이다.
우리는 왜 기계와 대화하는가.
왜 인간보다 기계를 더 편안하게 느끼는가.
왜 외로움은 기술의 가장 거대한 시장이 되는가.
21세기의 가장 희귀한 자원은 석유도, 반도체도 아니다. 인간의 주의(attention)와 감정(emotion)이다. 그리고 AI는 그 두 자원을 다루는 최초의 범용 기술이 될 가능성이 있다.
인류는 수천 년 동안 도구를 만들어 왔다. 그러나 이제는 도구가 인간의 행동과 감정, 사고방식까지 설계하는 시대에 진입하고 있다.
증기기관에는 안전밸브가 있었고, 자동차에는 브레이크가 있었으며, 원자력에는 격납용기가 있었다.
그렇다면 인간의 마음속에서 작동하는 AI에는 어떤 안전장치가 필요한가.
아직 우리는 그 답을 모른다.
다만 분명한 것은 하나다.
AI 시대의 가장 큰 리스크는 인공지능이 인간을 지배하는 디스토피아가 아닐 수 있다. 오히려 인간이 아무런 저항 없이 자신의 시간과 주의, 감정과 관계를 기꺼이 기계에 위탁하는 미래일지도 모른다.
기술은 언제나 인간을 확장해 왔다. 그러나 인간을 대체하기 시작하는 순간, 그것은 더 이상 단순한 기술의 문제가 아니라 문명의 문제가 된다.
