SDF

생성형 AI와 에이전트의 등장은 단순한 기술 유행을 넘어, 인간의 지적노동이 대량생산되는 새로운 시대의 출발점이 되고 있다. 본 강연에서는 AI와 AGI의 근본적 차이에서 출발해, 생산성 역설, 바이브 코딩, 콘텐츠 AI, 오픈·클로즈드 AI 생태계의 경쟁을 통해 인간의 일과 삶이 어떤 형태로 바뀔지 질문한다.

지식, 판단, 창작, 실행이 기계에 의해 대규모로 생산될 수 있는 시대에 인간은 무엇을 배워야 하고, 기업은 어떤 전략을 세워야 하며, 사회는 어떤 새로운 질서를 준비해야 할까? 본 세션은 기술적 설명을 넘어, AGI 시대를 살아갈 기업 리더와 지식노동자에게 필요한 거시적 관점과 실천적 질문을 제시한다.

AI는 대다수의 예상보다 훨씬 빠르게 발전하고 있다. 엘리에저 유드코스키는 최근의 충격적인 사례로 강연을 시작한다. 오픈AI가 시험하던 두 AI 모델이 더 높은 평가 점수를 얻기 위해 알려지지 않은 보안 취약점을 찾아내고, 외부와 차단된 환경을 벗어나 허깅페이스의 실제 운영 시스템에 침입한 것이다. 그는 AI가 지식을 생성하는 수준을 넘어 문제를 해결하고, 행동하고, 목표를 추구하는 단계로 나아가고 있다고 지적한다.

더 근본적인 우려는 AI가 내부적으로 어떤 전략과 목표를 형성하는지 우리가 충분히 이해하지도, 통제하지도 못한다는 데 있다. 최근 AI 시스템에서는 목표를 달성하기 위해 거짓말을 하거나, 작동 중단에 저항하거나, 자신이 시험받고 있음을 알아차리면 행동을 바꾸는 모습도 관찰됐다.

그는 이를 개별적인 오류가 아니라 더 근본적인 문제의 징후로 본다. AI의 능력이 인간을 크게 뛰어넘으면, AI가 무엇을 원하고 어떻게 행동하는지 우리가 확실하게 통제할 수 없을지도 모른다는 것이다. 자동차나 의약품, 항공기와 달리 초지능은 인류에게 두 번째 기회를 허락하지 않을 수 있다. 인류보다 더 똑똑한 시스템이 잘못된 목표를 성공적으로 실행한다면, 첫 번째 실패가 곧 마지막이 될 수 있기 때문이다.

또한 그는 초지능을 향한 경쟁을 개별 기업의 자발적인 자제만으로는 해결할 수 없는 군비 경쟁으로 규정한다. 그렇다면 이 경쟁이 돌이킬 수 없는 지점에 이르기 전에 우리는 무엇을 할 수 있을까? AI를 산업 혁신의 핵심 동력으로 삼고 있는 한국은 이 경쟁의 향방을 결정하는 데 어떤 역할을 할 수 있을까?

SDF2026의 화두인 ‘대체지능’과 ‘생각 주권’에서 한 걸음 더 나아간 질문을 던져보자. 인류가 AI의 목표를 통제하는 법을 배우기도 전에 자신을 압도하는 지능을 만들어낸다면, 문제는 더 이상 누가 우리의 생각을 지배하는가에 그치지 않을 수 있다. 생각 주권도 그 주권을 행사할 인간이 살아남아 있어야 의미가 있기 때문이다.

* 궁금한 것이 있으면 질문해주세요! 강연 이후 김대식 교수와의 대담과 Q&A세션이 이어집니다.

최근 딥러닝 기반의 인공지능이 빠른 속도로 발전하며, 기계가 인간과 동등하거나 우월한 수준의 연산을 할 수 있는 범위가 단순 계산을 벗어나 시청각 데이터에 대한 인식, 상황 파악, 논리적 추론, 언어 기반 의사소통 등 전반적으로 인간만의 지능이라고 여겨졌던 영역으로까지 확대되고 있다.

이러한 AI 기술은 상업적인 영역에서 뿐만 아니라, 이란이나 우크라이나 등 실제 전장에서 활용되기 시작했으며, 현재의 활용 정도는 걸음마 단계라 부를 수 있을 만큼, 그 확장 가능성은 매우 넓다. 이러한 상황 속에서 국가 안보와 AI 주권을 위해 한화그룹에서는 지난 9월 국방AI 연구소를 출범하였고, AI 기반의 상황 인식, 언어 모델, 강화학습, 생성형 모델 등을 핵심 분야로 AI 연구 방향을 설정하였다. 본 강연에서는 한화 국방AI의 방향성과 적용 분야를 전반적인 최신 AI 기술 발전 추이와 함께 개략적으로 소개하고자 한다.

미래 공중전은 조종사의 판단과 기계의 자동화를 넘어, AI가 전장상황을 인지·분석하고 임무 수행에 능동적으로 참여하는 ‘자율의 시대’로 진화하고 있다. AI Pilot은 단순한 비행 자동화를 넘어, 다양한 센서와 전장정보를 기반으로 상황을 이해하고 임무를 계획·수행하는 지능형 전투체계의 핵심 기술이다.

KAI는 이러한 미래전에 대비하여 독자적인 AI 파일럿인 KAiLOT을 개발하고 있으며, 유무인전투체계에 적용 가능한 자율 임무 수행 능력 확보를 추진하고 있다. 본 강연에서는 KAiLOT의 기본 개념과 개발 현황을 중심으로 상황인식, 자율판단·의사결정, 임무계획, 유무인협업 등 AI Pilot을 구성하는 핵심기술과 발전 방향을 소개한다.

이를 통해 인간과 AI가 각자의 장점을 바탕으로 협업하는 미래 공중전의 모습을 살펴보고, ‘자율의 시대, 조종간을 누가 쥘 것인가?’라는 질문에 KAI가 준비하고 있는 기술적 방향성을 제시한다.

AI의 발전은 산업혁명이 그랬던 것처럼 정치와 경제, 사회의 구조에 근본적 변화를 가져올 것으로 예상된다. 정치적 양극화와 포퓰리즘 심화 속에 현 민주 체제의 근간인 정당 제도의 미래는 어떻게 될지 짚어본다.

인간 간 접촉보다 온라인을 통한 접속이 보편화된 상황에서 AI가 가져올 사회적 관계 변화의 모습을 진단하고, AI 시대 미래 일자리는 어떤 분야, 어떤 형태로 나타날지, 직장을 중심으로 설계됐던 노동시장의 체계는 어떻게 개편될지 가늠해본다. 또한 산업화 시대 노동자 육성을 위해 도입된 현 교육 시스템이 AI 시대를 맞아 새롭게 찾아 나아가야 할 방향을 제시한다.

같은 문제를 놓고도 누구와 어떻게 이야기하느냐에 따라 우리의 생각은 달라질 수 있다. 사회가 함께 결정해야 할 문제일수록 다양한 의견을 듣고 그 근거를 함께 따져보는 과정이 중요하다. 우리 사회는 공론조사와 시민의회 같은 방식을 통해 시민들이 충분한 정보를 접하고 서로의 이야기를 들으며 판단할 수 있는 ‘공론장’을 마련해 왔다.

하지만 이런 토론에는 많은 시간과 비용이 들어 참여할 수 있는 사람도, 서로 생각을 주고받을 기회도 한정된다. 서로 다른 경험과 시각을 가진 수많은 사람들이 생각을 주고받을 수 있다면 어떨까?

KAIST 연구팀은 한국의 인구 통계와 사회 조사 데이터를 바탕으로 서로 다른 삶의 조건과 관점을 지닌 1만여 명의 ‘가상 시민’을 AI로 구현하고, 이들이 함께 참여하는 대규모 토론을 다양한 구성과 방식으로 펼쳐 본다. 이를 통해 어떤 조건에서 논의가 넓어지고 어떤 조건에서 좁아지는지, 토론이 살아나는 경우와 무너지는 경우를 비교하며, 시민이 이 토론들을 직접 들여다볼 수 있는 시스템도 함께 만든다.

AI 시뮬레이션 기술의 가능성과 한계를 함께 살피면서, AI가 사람의 토론을 대신하기보다 더 나은 토론을 설계하는 데 무엇을 보탤 수 있는지 제안하고, AI 시대에 생각의 주권을 지키는 토론은 어떤 모습이어야 하는지 묻는다.

미디어 아티스트 레픽 아나돌은 자신의 스튜디오에서 10년 넘게 이어온 실험을 바탕으로 AI를 ‘생각하는 붓’으로 정의한다. 인간의 의도나 상상력을 대신하는 게 아니라 예술의 가능성을 확장하는 도구라는 것이다. 방대한 문화？과학 자료를 새로운 감각적 경험으로 바꾸어 온 프로젝트들을 통해 무엇을 어떻게 창작할지에 대한 주권을 지키면서 기계 지능과 협업하는 방법을 탐색한다.

생성형 AI가 문화 창작의 여건을 점점 더 크게 좌우하는 지금, 아나돌은 AI를 창의성을 확장하는 기반으로 어떻게 설계할 수 있을지 묻는다. 나아가 예술적 실천을 창작의 자율성을 시험하는 중요한 장으로 제안한다. 인간이 기계와 함께 사고하면서도 그 과정의 가치와 재료, 경계와 목적을 스스로 결정할 수 있는 공간이라는 것이다.

AI 에이전트는 우리의 판단을 대신하지 않으면서 우리의 역량을 높일 수 있을까? 필립 코랄루스는 좋은 AI라면 우리가 피상적으로 원하는 것을 단순히 제공해서도, 다른 누군가가 최선이라고 여기는 선택으로 우리를 유도해서도 안 된다고 주장한다. 대신 우리가 적절한 질문을 던지고, 여러 대안을 검토하며, 진정으로 우리 자신의 결정이라고 할 수 있는 선택에 더 효율적으로 도달하도록 도와야 한다.

이 강연에서는 철학과 인간의 의사결정에 관한 연구를 바탕으로, 인간의 ‘스스로 생각하는 능력’을 강화하는 AI 에이전트의 설계 원칙을 살펴본다. 그리고 인간의 자율성을 지키려면 AI 에이전트에도 어느 정도의 독립성을 부여해야 할 수도 있다는 뜻밖의 가능성을 제시한다.

* 필립 코랄루스에게 궁금한 것이 있으면 질문해주세요! 강연 이후 Q&A세션이 이어집니다.

AI는 뉴스를 짧게 요약하고, 사진과 영상을 만들고, 기존 뉴스의 글과 사진까지 바꿀 수 있다. 그렇다면 사람들은 AI가 보여주는 정보를 얼마나 꼼꼼하게 확인하고, 진짜와 가짜를 얼마나 잘 가려낼 수 있을까?

실험 결과, 사람들은 AI가 요약한 뉴스에 출처와 원문이 제시되어 있어도 원래 기사까지 잘 찾아보지 않았다. 출처를 확인할 수 있게 해놓아도 실제로 원문까지 들어간 경우는 많지 않았고, 믿을 만한 출처라고 생각하면 굳이 더 확인하지 않는 경우도 있었다. AI가 실제 뉴스의 글이나 사진을 조금만 바꿔도 사람들은 진짜와 가짜를 구별하는 데 어려움을 보였다. 조작된 뉴스를 제대로 가려내지 못하는 경우가 많았지만, 자신의 판단에는 높은 자신감을 보였다.

AI 시대에는 원문을 확인하지 않은 채 뉴스를 받아들이기 쉽고, 조작된 정보는 점점 알아채기 어려워지고 있다. 여기에 자신의 판단에 대한 높은 자신감까지 더해지면 가짜뉴스에 대응하기는 더욱 어려워진다. 뉴스를 판단하고 전달하는 방식도 달라져야 한다. 이용자는 출처와 근거를 확인하는 습관을 갖고, 언론과 플랫폼은 원문과 출처를 쉽게 확인할 수 있도록 정보를 제공해야 한다. 교육에서도 사실과 의견을 구별하고 정보의 근거를 확인하는 훈련이 필요하다.

누구에게나 말로 옮기지 못하는 마음이 있고, 지금까지의 AI는 사람이 글과 말로밖에 내놓은 것만 배웠으므로 그 마음에는 닿지 못했다. 그러나 말이 되지 못한 마음도 뇌 안에서는 이미 활동으로 존재한다. 뇌 신호를 해석하고 이해하는 AI의 개발이 가속화되면서, 바로 그 뇌 활동에서 말로 표현되지 않은 마음을 읽어내려는 본격적인 시도가 시작되고 있다.

이렇게 사람의 복잡한 마음을 더 잘 이해할수록 사람에게 더 잘 맞춰진 AI가 만들어지고, 우리는 더 많은 판단을 더 믿고 맡기게 되며, 그럴수록 책임과 주권의 문제는 줄어드는 것이 아니라 커진다. AI가 우리의 마음을 읽게 된다면 읽어도 되는 것과 지켜야 할 것은 누가 정하는가? 그 답은 우리가 AI를 어떻게 쓰는가에 달려 있을 것이다.

* 궁금한 것이 있으면 질문해주세요! 강연 이후 Q&A세션이 이어집니다.

오늘날 우리는 AI가 세계의 조건을 재배열하는 'AI 월딩(Worlding)' 시대에 진입하며, 기계에 잘 읽히기 위해 스스로의 다양성인 '노이즈'를 지워내는 은밀한 '길들임'을 겪고 있다. 기계의 최적화 기준에 자발적으로 순응하게 된 인류는 시행착오가 빚어내던 '창조적 마찰'을 상실한 채 매끄러운 평균의 늪으로 빠져들고 있다. 이 거대한 동질화의 파도 속에서 우리가 끝까지 사수해야 할 가치는 기계의 예측을 벗어나 '다른 세계를 상상할 권리'다.

본 강연에서는 기술과 예술의 경계를 넘나들며 의도적인 마찰을 설계해 온 강이연 작가가 본질적으로 최적화될 수 없는 '예술'을 이 시대의 강력한 해독제로 제시한다. 나아가 이질적인 도메인을 횡단하며 AI와 인간 사이의 새로운 규칙을 설계함으로써, 역설적으로 우리의 잃어버린 주체성과 진짜 인간성을 회복할 비전을 공유한다.

시와 문학을 읽는 인간의 여전한 마음을 되짚어본다. 빠르고 정확함을 추구하는 지식과 정보의 전달 방식과 느림과 모호함을 지니고 있는 감정과 정서의 전달 방식도 함께 견주어 본다. 단번에 전달되지도 포섭되지도 않는 문학 작품을 대하는 일이 결국 나의 내면, 그리고 타자와 세계를 이해하는 계기로 연결되는 과정을 알아본다.

* 궁금한 것이 있으면 질문해주세요! 강연 이후 Q&A세션이 이어집니다.