(조세금융신문=이상현 기자) 영국 작가 아서 C. 클라크(Arthur C. Clarke)가 1951년 발표한 과학소설을 원작으로 스탠리 큐브릭 감독이 만들어 1968년 개봉된 영화 <2001 스페이스 오디세이>에는 인간을 공격하는 인공지능(AI) 컴퓨터가 등장한다.

‘할(HAL) 9000’이라는 이름의 AI는 사람과 자연어로 대화할 수 있으며, 체스를 둘 줄 안다. 말이 제대로 들리지 않는 상황에서도 대화하는 사람의 입술만 보고 대화를 읽을 정도의 높은 지능을 지녔다.

인간과 수시로 소통하는 HAL 9000은 인간 우주인들에게 기록된 문서에는 없는 내용을 탐문한다. 우주인들에게 달 탐사 임무의 진상과 궁극적인 목표를 캐내기도 한다. 우주선 일부 장치의 고장을 우주인들에게 잘못 통지한 뒤 고장이 아님을 알게 된 우주인들이 HAL 9000을 우주선에서 분리하자고 하는 대화를 먼발치에서 입술 모양만 보고 알아차린다.

영악한 AI는 우주선 생명유지장치를 꺼 동면 중인 승무원 3인을 먼저 살해한다. 수리를 위해 우주선 동체 표면에서 일하던 우주인을 우주공간으로 밀어낸 뒤 “문을 열라”는 명령에 “미안하지만 그럴 수 없어”라고 답변한다.

한국전쟁이 한창이던 1951년 초거대 AI가 문학작품 속에서 이미 그려졌다는 점은 사뭇 신기하다. 더욱이 초거대 AI가 그 가공할 능력을 만들어준 인류를 향해 공격할 수도 있는 가능성을 보여주고 있다.

2023년 한국은 이런 잠재적 위협요인을 고려하면서도 초거대 AI의 무한한 가능성을 산업으로 물질화 하는 데 우선순위를 두고 있다. 정부는 초거대 AI 경쟁력 강화방안을 고민하고 있고, 국회는 초거대 AI의 잠재적 위협요인과 약점을 규율하기 위한 기본규제 입법화에 착수했다.

한국, 초거대 인공지능 갖춘 4개 나라 중 하나

지구촌 전역에서 ChatGPT 돌풍이 일자 한국 정부는 이를 계기로 AI에 대한 막연한 기대감이 효용성으로 증명됐다고 봤다. 과학기술정보통신부는 “누구나 쉽게 AI를 활용하는 ‘AI 일상화’가 촉발됐다”는 맥락에서 2023년 상반기에 ‘초거대 AI 경쟁력 강화 방안’을 발표했다.

‘경쟁력’이 화두가 된 것은 지구촌 기술기업들이 압도적인 전산 능력(computing power)컴퓨팅 파워를 기반으로 대규모 자본을 투자, 초거대 AI 플랫폼을 선점하고 있기 때문.

2022년 11월 OpenAl가 처음 GPT를 발표한 뒤 구글이 2023년 2월 바드(Bard)를, 같은 달 페이스북 기업 메타가 LLAMA를 각각 출시했고, 불과 한 달 뒤 OpenAl가 GPT4를 출시했다. 가히 ‘속도전’이라는 말이 무색할 정도로 ‘초거대 AI’를 둘러싼 초거대기업들의 경쟁이 치열하고 빠르게 전개되고 있는 것이다.

한국 정부는 “우리도 독자적 초거대 AI 플랫폼을 바탕으로 세계 선두권 경쟁에 참여하는 기업 지원을 강화, 이 분야 경쟁력 확보와 미래수출 전략산업으로 육성한다는 복안을 세웠다.

과기부는 AI 기술력이 미국의 90% 가까이(89.1%) 도달했다고 보고 있다. 한국은 미국과 중국, 이스라엘과 함께 자체 초거대 AI를 보유한 지구촌 4개 나라의 반열에 올랐다.

한국 기업들은 그동안 학습용데이터 691종 등 초거대 AI 플랫폼 운영에 필요한 데이터를 꽤 축적했다. 삼성전자를 중심으로 신경망처리장치(Neural Processing Unit, NPU), 하나의 칩 안에 메모리와 프로세서 연산기를 집적한 차세대 반도체(Processing-In-Memory, PIM) 등 AI반도체의 국산화에 성공했다.

민간 대기업들은 독자적 초거대 AI 플랫폼을 확보하고 세계를 향해 도전을 시작했다. 네이버는 음성인식을 통한 번역 및 문자화 서비스 로봇인 클로버노트를, LG는 언어와 이미지 간의 양방향 생성이 가능한 멀티모달 모델 기반 초거대 AI ‘엑사원’을 각각 선보였다. 카카오(KOGPT)와 SKT(에이닷), KT(믿음) 등도 초거대 AI를 표방한 제품을 잇따라 출시했다.

응용기업들은 초거대 AI 플랫폼에서 제공하는 응용프로그램인터페이스(API)를 바탕으로 기업별 데이터를 추가학습 시킨 전문화된 AI로 승부하는 추세다. 작문 콘텐츠창작 플랫폼 ‘뤼튼’, 사진 답변 등 A챗봇 ‘ASkUp’ 출시(업스테이지) 등이 대표적인 사례다.

정부, 민간공공이 초거대 Al를 융합하는 비전 제시

한국 정부는 한국어플랫폼 세계 1위를 구현해 비영어권 국가들을 중심으로 지구촌 초거대 AI 플랫폼 시장을 선점하는 한편, 응용서비스 기업 간 협력 생태계 조성으로 전문 특화분야 세계 1위에 도전한다는 비전을 밝혔다.

초거대 AI 개발과 고도화를 지원하는 기술산업 인프라를 확충하고 민간공공이 초거대 Al를 융합하는 등 초거대 AI 혁신 생태계를 조성한다는 복안이다. 이를 위해 범국가 AI 혁신을 위한 제도문화를 정착시키는 전략을 제시했다.

‘산업 생태계 육성’이라는 첫번째 전략을 위해, 그간 확보한 AI 정책 성과 위에 초거대 AI 경쟁력을 강화하고 ‘추가’ 또는 ‘개선’할 과제를 발굴, 집중 추진한다는 방침이다.

이를 위해 우선 분야별 특화 텍스트 데이터 200종(도서 15만권 분량) 구축과 한국어 중심으로 텍스트 데이터를 확보하되, 비영어권(동남아, 중동 등) 데이터 단계적으로 확대하는 등 초거대 AI 개발에 필요한 양질의 텍스트 데이터를 보강한다는 계획이다.

기술측면에서는 이미 추진 중인 딥러닝 개선 기술개발에 오는 2026년까지 예산 2655억원을 편성하는 한편, 현행 초거대 AI 한계 돌파를 위한 연구개발(R&D) 과제를 새로 추진할 방침이다.

인프라 측면에서는 초거대 AI가 활용할 수 있도록 국산 AI반도체 기반의 고성능저전력 K-클라우드 핵심 하드웨어와 소프트웨어를 올해부터 개발하기로 했다.

2번째 전략은 초거대 AI 혁신생태계를 조성하는 것. 우선 민간 5대 전문영역에 초거대 AI를 접목, 전문가 보조지원 등 생산성 혁신에 필요한 응용서비스를 총괄 지위하는 기함(旗艦, flagship)을 구축한다. 이른 바 ‘초거대 AI 기함 플래그십 프로젝트’는 2024년부터 개발에 착수하는 과제로 선정했다.

AI를 활용해 정부 공공행정 혁신 과제로 공공기관 내부업무와 민원대응 효율화, 초거대 AI 특허검색(특허청) 등 초거대 AI 공공 선도과제를 추진한다는 계획도 포함됐다. 민간 차원의 투자, 새 서비스 창출 등을 위해 디지털 기업의 협력 강화를 도모할 ‘초거대 AI 협의회’도 올해부터 운영, 초거대 AI 산업 혁신 생태계 조성에 본격 나설 방침이다.

범국가 AI혁신 제도 문화를 정착시키는 세번째 전략에서는 ▲초거대 AI 관련 규제 개선방향 도출 ▲초거대 AI 확산에 따라 야기되는 교육, 보안 등 사회적 이슈 논의 및 대응방안 모색 등 AI의 사회적 수용역을 높이는 과제가 포함돼 있다.

이밖에 기업이 개발한 초거대 AI 서비스에 대해 위험요인성능을 공신력 있는 제3의 기관을 통해 평가 추진하는 ‘민간 자율신청 기반 운영’ 방안도 AI혁신 전략과제로 선정, 추진하고 있다.

신뢰성윤리 이슈 등에 공감…국회서 인공지능규율 기본법제 입법 본격화

한국 정부는 초거대 AI 활용이 본격화되면서 신뢰성윤리 이슈, 사회가 AI를 수용하는 문제 등을 각각 고려하고 있다. AI 위험요인을 해소하고 ‘AI 이해활용능력(literacy)’을 전반적으로 강화하는 문제, 기존 제도로 규율할 수 없는 AI 관련 새로운 현상을 규율하기 위한 법제개선 준비 등이 필요하다는 것. 가령 AI 산출물에 대한 저작권 논쟁, 데이터 학습 과정에서 개인정보 문제 등이 새로 출현한 사회적 문제다.

한국 정부는 특히 지구촌 비영리단체 ‘생명의 미래연구소’가 인류에 대한 위험성을 이유로 GPT4 이상의 강력한 AI 개발을 일시 중단할 것 촉구한 캠페인에 주목, 급속한 AI 발전을 우려하는 시각도 고려하고 있다.

한국 국회도 이런 AI 발전 추세가 부를 수 있는 기본권 침해 등 잠재적 국민 피해에 대응하고 있다.

윤두현 의원(국민의힘)은 지난해 12월 8일 ‘인공지능산업 육성 및 신뢰 확보에 관한 법률안’을 대표 발의 했다. 윤 의원은 법률안에서 “인공지능 및 인공지능기술을 개발제작하는 자는 인공지능의 신뢰성 확보를 위해 인공지능의 작동 과정과 결과 등이 논리적객관적으로 설명이 가능한 기술을 개발하고, 이용자의 기본적 권리를 보호해야 한다”는 점을 분명히 했다.

또 “고위험 영역에서 활용되는 인공지능을 이용, 제품 또는 서비스를 제공하려는 자는 해당 제품 또는 서비스가 고위험 영역에서 활용되는 인공지능에 기반해 운용된다는 사실을 이용자에게 사전 고지해야 한다”고 명시했다.

황희 의원(더불어민주당)도 지난 2월 28일자로 대표 입법 발의한 ‘인공지능책임법안’에서 고위험인공지능으로부터 이용자를 보호하기 위한 시책과 분쟁 발생 시 조정절차 등을 규정했다.

황 의원은 “인공지능의 본질은 결정과 행위를 사전 설계한 알고리즘에 따라 자동화하는 기술이므로, 필연적으로 그 결정과 수행 과정에서 인간의 개입을 배제, 개인정보 침해와 알고리즘 왜곡에 따른 차별 논란 등 이용자 피해가 발생한다”고 지적했다.

또 “보안 문제 증대와 시스템 신뢰도 저하, 인공지능 윤리 문제 등 인공지능의 역기능적 측면에 대한 사회적 우려도 높아지고 있다”면서 “궁극적으로 인류를 위한 기술이어야 한다는 점에서, 인공지능의 양면성에 대해 충분한 사회적 논의가 필요한 시점이며, 데이터 사용과 알고리즘 설계에 있어 선제적 윤리 대응이 필수”라고 주장했다.

그러면서 “인공지능 관련 법적윤리적제도적 관점에서의 사회적 논의를 포괄적으로 수렴, 인공지능의 개발 및 이용에 관한 기본원칙을 정하고, 국가, 사업자의 책무와 이용자의 권리를 규정했다”며 법안의 취지를 설명했다.

초격차 강조해온 안철수 의원 “AI 가이드라인 시급”…기본법 발의

한국의 정보통신기술(ICT)를 등 각종 미래기술혁신을 통한 초격차, 초경쟁 경제구축을 강조해온 안철수 의원(국민의힘)도 지난 8월 8일 ‘인공지능 책임 및 규제법안’을 대표 발의했다.

안철수 의원은 법안 발의 취지문에서 “세계적으로 인공지능이 교통, 의료, 서비스 등 다양한 분야에 활용되면서 일상생활의 편의 증진은 물론 산업적 활용 가능성에 대한 기대를 높이고 있다”고 운을 뗐지만 “인공지능의 개발이용이 거의 모든 산업분야에 적용돼 부가가치를 창출할 것으로 예상되고 있지만, 다른 한편으로는 인공지능의 위험성에 대한 우려도 확대되고 있다”고 지적했다.

특히 “인공지능기술은 대량의 데이터를 학습, 성능을 향상시키는 기계학습에 기반하고 있어 불확실성과 불투명성을 가지고 있으며, 불분명한 데이터(Noisy data)로 인한 오류생성 가능성도 크다”고 잠재적 위험성을 강조했다.

안의원은 이에 따라 “인공지능기술이 특정 분야에서 인간의 통제수준을 넘어서서 고의적으로 악용될 수 있는 문제에 대한 법적 규제의 필요성이 있다”고 주장했다. 특히 ChatGPT 4.0 출시 이후 법률을 통해 무엇을 허용하고 무엇을 허용하지 말아야 할지 ‘가이드라인’을 설정하는 것이 더욱 시급해졌다는 지적이다.

유럽의회는 오는 2025년 ‘인공지능법’을 세계 최초로 제정할 예정이다. 이런 상황을 고려할 때, 한국도 인공지능의 부작용과 위험이 무엇인지 정확하게 파악하고 정의해 인공지능 규제 정책을 형성해 나가는 것이 필요하다는 게 안 의원의 문제의식이다.

안철수 의원은 이에 따라 향후 신뢰할 수 있는 인공지능의 사용환경을 조성하기 위해 ▲인공지능의 개발 및 이용에 관한 기본원칙 ▲인공지능사업자의 책무 및 이용자의 권리 ▲금지된 인공지능고위험 인공지능저위험 인공지능으로 인공지능의 유형을 구분 ▲위험 수준별 이용자 보호를 위한 인공지능과 관련한 시책을 구분 마련 등 안전하고 신뢰할 수 있는 인공지능기술정책의 제도적 기반을 조성하자고 법안 취지를 설명했다.

의원실 관계자는 “단순한 신기술의 위험성에 대한 규제를 넘어, 개인의 자유에 대한 억압이나 제한을 지양하고, 지속적인 성장이 가능한 사회로 나아가는 것이 인공지능 관련 규제의 목표가 돼야 할 것”이라고 강조했다.

[조세금융신문(tfmedia.co.kr), 무단전재 및 재배포 금지]