■ AI와 ‘공생시대’엔 더더욱 보편적 혜택을 강조해야

출처: 환구시보,  작성자: 스안빈, 위야윈(史安斌、俞雅芸)
2024-11/27

최근 시진핑 주석은 주요 20개국(G20) 정상회의 연설에서 AI 국제 관리와 협력을 강화해서,  AI가 선량하고 인류 전체에 혜택을 주며 "부국과 부자만의 게임"이 되지 않도록 해야 한다고 강조했다. OpenAI로 대표되는 실리콘밸리의 선두주자들은 비록 "세계는 평평"하고 첨단기술이 사람들에게 혜택을 준다는 착각을 불러일으켰지만, 후발국가들에게 다음과 같은 경종을 울렸다. 즉,  디지털 기술이 보다 공정하고 평등한 인류문명의 새로운 형태를 낳을 수 있을까? 무한한 가능성을 가져올 듯 한 생성형 인공지능의 핵심에는 여전히 문명화된 배타성이 존재하는 것은 아닐까?

근본적으로 미국을 기반으로 하는 기술 선도국들은 개발도상국에 제조 측면과 사용 측면에서 이중의 불평등을 형성했다. 먼저 사용 측면에서 보자면, OpenAI로 대표되는 실리콘밸리의 선두주자로 구성된 대형 모델은, 여전히 정치 및 문화적 편견을 기반으로 하는 영어 코퍼스( corpus, 언어의 표본 집합)를 구축하고 있으며, 이 훈련 메커니즘은 필연적으로 서구 중심주의 언어의 다국적 재생산으로 이어질 것이다.

'인간과 기계 공생' 시대에 소셜 미디어(SNS) 및 콘텐츠 생성 인공 지능을 포함한 다국적 디지털 응용 소프트웨어는, 민족 국가('특정 국가'라는 의미-주)의 투영 및 경쟁적 전략 줄거리의 기본 조건이자 주요 장소가 되고 있다.  그러나 실리콘밸리 회사에서 생산하는 대형 하부 모델을 자세히 살펴보면, 상위 10개 훈련 자료의 절반이 영국과 미국의 주류 매체임을 쉽게 알 수 있다. 원래 편향되고 암시적인 서구 중심 훈련 메커니즘은, 기계가 자체 학습 및 반복 과정에서 불가피하게 특정 국가의 이념과 사전 설정을 재생산하도록 만든다.

다음, 제조 측면에서는 정보기술(IT) 산업의 선두주자인 서방 국가들이 종종 약탈적인 자세로 불공정한 노동 분업 체계에 의존하여 기존 세계 권력 질서의 불평등을 심화시킨다. 오랫동안 애플, 메타, 구글, 아마존, 마이크로소프트가 이끄는 실리콘 밸리의 대기업들은 종종 '생태계에 상처를 입히는(生态创伤) ' 것을 개발도상국에 아웃소싱하고, 정보기술 산업 체인의 하단에 있는 '글로벌 남부' 국가를 착취하였다. 더욱 경계해야 할  부분은 생성형 인공지능의 도입은 의심할 여지 없이 대단히 큰 데이터, 인력 및 천연 자원을 필요로 하기 때문에 그 진입 장벽은 더욱 높아지고, 권력 집중이 더욱 강화되며, 소수의 '부국 및 부자'가 시스템이 어떻게 만들어지고 노동이 어떻게 분업되는지를 결정한다는 사실이다.

생성형 인공지능이 창출하는 이익이 '부국'과 '부자'의 손에 있을 때,  그것이 유발하는 다양한 문제는 세계 곳곳을 위협한다. 2024년 '슈퍼 선거의 해'를 앞두고 대형 과학기술 기업들이 연초에 허위정보에 대한 적극적인 조치를 발표했지만 각종 합성사진, 음성조작 등 오보, 허위사실, 악재는 여전히 사이버 공간에서 기승을 부리고 있다. 뿐만 아니라 '인공지능'이라는 기만적인 이름은 실제로 여전히 물질을 기반으로 한다는 사실을 크게 은폐한다. 매우 비싸고 많은 자원을 소비하는 이러한 대규모 기반 시설은 기존 검색 엔진보다 최소 1000배 이상의 에너지를 소비하며, 글로벌 생태 악화와 기후 위기의 도래를 가속화할 것이다.

인공지능 관리와 국제 협력을 촉진하는 과정에서 중국 정부는 항상 인공지능 기술의 규제 필요성과 보편성을 강조했다. 2024년 9월, 국가인터넷정보국은 생성형 인공지능으로 인한 악의적인 수출, 저작권 침해 및 심층적 위조와 같은 뜨거운 보안 문제를 해결하기 위해 <인공지능 생성 및 합성 콘텐츠 식별 방법(의견 초안)>을 발표했다. 국제적 협력 측면에서 중국은 '2024 세계 인공지능 회의'를 개최하고 <인공지능 국제 관리 상하이 선언>을 발표했다.  시진핑 주석도 최근 주요 20개국(G20) 디지털경제장관회의 기능을 강화해 디지털 전환, 디지털경제와 실물경제의 심층 융합, 신흥 분야 규칙 제정 등에서 선도적인 역할을 해야 한다고 호소했다. 

인공지능 분야에서 중국의 기술 자율성과 관리에 대한 발언권이 이중으로 향상됨에 따라, 우리는 국제 인공지능 거버넌스를 위한 중국의 지혜와 중국의 솔루션(해결책)을 제공하기 위해서라도 국내 인공지능 윤리 및 규제 법률의 강화를 적극 지지해야 한다. 동시에 후발 국가이자 '글로벌 남부' 진영의 일원으로서 국제기구 및 다자간 메커니즘에 참여하여 인공지능 기술의 국제 공유 및 협력을 촉진하고, 인공지능 기술의 발전이 전 인류에게 혜택이 돌아갈 수 있도록 보장하기 위해서 노력해야 한다. 우리는 인간과 기계 공생의 시대적인 특성이 인간이 기술과 기계와 공생하는 방법뿐만 아니라, 신기술의 부여로 포용적인 혜택을 진정으로 창출하는 방법을 시험한다는 점을 인식해야 한다.  그래야만 문명적 위계론과 구미(欧美)적 현대성을 넘어 다양한 인류문명의 새로운 형태를 만들어 낼 수 있다.

(저자들은 칭화대 신문방송학원 교수 겸 칭화대 '이스렐 엡스타인' 대외전파연구센터장/ 칭화대 '이스렐 엡스타인' 대외전파연구센터 부연구원)

(원문보기) https://opinion.huanqiu.com/article/4KPzwUDbeMg

■ AI로 AI를 방비할 수 있을까?

출처: 과학기술일보(科技日报)
2024-11/11

“인공지능 알고리즘 모델에는 ‘3불가’ 즉 해석 불가, 판별 불가, 추론 불가라는  '유전자적 결함'이 있습니다.” 며칠 전 열린 ‘2024 뤼멍(绿盟)과학기술 TechWorld스마트보안 대회’에서 우장싱(邬江兴) 중국공정학원 원사(院士)의 발언이다. 그는 AI 기능 부여 기술의 응용 가능성은 매우 넓지만, 또한 전례 없는 보안(안전) 문제를 가져왔다고 말했다.

“AI는 이미 사이버 공간 보안 발전의 핵심 변수가 되었습니다.” 펑덩궈(冯登国) 중국과학원 원사의 말이다. 그는 AI 기술이 이미 비교적 단일 알고리즘 개발 단계에서 소프트웨어, 하드웨어 및 응용 시나리오를 결합한 포괄적이고 통합 개발 단계로 넘어섰다고 말했다.

그렇다면 AI의 광범위한 적용은 어떤 보안 위험을 가져올까? 이러한 안전 문제에 어떻게 대처해야 할까? 회의에서 전문가와 학자들은 네트워크 보안의 첨단기술과 디지털 기능 부여의 발전 경로에 관해 심도 있는 논의를 진행했다.

ㅡ 보안 위험의 증대 

“어떤 경우에는 (AI) 대형 모델에 의해 생성된 텍스트가 의미나 구문적 측면에서는 논리적으로 보이지만, 실제 내용은 틀리거나 무의미할 수 있습니다. 이러한 ‘환각’ 문제는 모든 대형 모델에 공통적인 고유한 문제입니다.” 펑덩궈는 대형 모델의 ‘환각’ 결함으로 인한 대규모 오류 정보의 출현이 대형 모델이 가져오는 주요 보안 위험 중 하나라고 강조했다.  그는 또한, 핵심 정보 인프라를 겨냥한 사이버 공격이 더욱 자동화, 지능화되고 있으며, 동시에 AI 알고리즘의 급속한 업데이트 및 진화 역시 전통적인 보안 분석 기술이 AI 분야에서 대량으로 나타나는 새로운 알고리즘과 새 모델에 대처하기 어렵게 만든다고 했다.

“디지털화 전환은 인터넷 생태계의 취약성을 심화시켰습니다.” 뤼멍((绿盟) 과학기술 회사의 수석 기술 책임자인 예샤오후(葉晓虎)는 공격 수단의 다양화와 관련 기술 전술의 진화가 보안 산업이 새로운 보안 문제에 지속적으로 적응하고 대처할 것을 요구한다고 말했다. 이를 위해 뤼멍과학기술은 전통적인 보안 제품 및 보안 서비스를 제공하는 것을 기반으로, AI 대형모델 응용 및 ‘블루 밀리터리 시스템’과 같은 다양한 분야의 솔루션을 출시하고 있다고 했다.

디지털 경제시대에 데이터 보안의 보장은 국가 안보 및 경제사회 발전과 관련된 주요 문제가 되고 있다. 국가산업정보보안개발연구센터 수석전문가이자 데이터보안연구소 소장인 리쥔(李俊)은 산업기업의 디지털화, 네트워크화 및 지능화 과정이 가속화되는 동시에, 산업데이터 캐리어(载体, 담체) 허점 및 백도어(뒷문), 통제되지 않은 운영 및 유지 관리 등과 같이 점점 더 두드러지는 데이터 보안 위험에 직면해 있다고 말했다. 이러한 배경하에서, 중국 산업 당국은 데이터 보안 감독을 위한 기술 역량 구축 및 실행의 실현을 지속적으로 가속화하기 위한 관련 정책을 발표했다고 소개했다.

ㅡ AI는 새로운 도구를 제공한다

새로운 보안 위험에 직면하여 'AI로 AI를 예방'할 수 있을까? 회의에 참석한 전문가들은 일반적으로 안전 보장에 AI 시스템의 응용이 이미 널리 인정되고 있으며, 안전 분야에서 AI의 지원 역할이 점점 더 강화될 것이라고 보았다.

“AI는 사이버 공간의 보안을 강화하고, 보안 작업을 위한 새로운 도구를 제공할 수 있습니다.” 펑덩궈는 AI의 가지치기식의 공격 기술, 악성코드 생성, 좀비 사이버 공격 등의 도전에 맞서 'AI를 통해' 방어 능력과 수준을 크게 높이고, 위협 탐지 및 대응 능력을 효과적으로 향상시킬 수 있다고 말했다.

“AI는 위협 탐지, 이벤트 대응 및 취약점 분석과 같은 많은 네트워크 보안 작업을 자동으로 수행할 수 있습니다. 이것은 작업 효율성을 향상시키는 데 도움이 될 뿐만 아니라, 인적 오류의 가능성을 줄이고, 네트워크 보안 팀이 대량의 보안 경고에 대해 보다 효과적으로 대처할 수 있도록 도와줍니다.” 구두쥐안(顾杜娟) 뤼멍과학기술 천추실험실 주임연구원은 AI가 신형 공격 수단과 전략을 식별하고, 기계학습과 딥러닝 기술을 이용해서 복잡한 사이버 공격을 탐지하고 대응하는 데 도움을 줄 수 있다고 말했다.

뤼멍과학기술은 기술 혁신을 통해서 일련의 새로운 성과와 방안을 내놓고 있다. 예를 들어 ‘펑윈웨이(风云卫)’ AI보안기능 플랫폼은 위협 정보의 축적 및 기타 기능을 통합하여 네트워크 보안산업의 지능화 전환을 더욱 촉진시킬 수 있다. 안전한 운영의 측면에서 ‘AI+’ 전략은 경고 및 소음 감소율을 97% 이상 달성하고, 위협 대응을 30분으로 단축하며, 전체 운영의 효율성을 70% 이상 향상시킬 수 있다.

그뿐만 아니라 텐센트 등 기업들도 AI 보안 도우미를 구축해서 보안 서비스 능력과 효율성을 높이고 있다. 업계 전문가들은 'AI+보안'을 잘 사용하면 디지털화 전환과 지속 가능한 발전을 촉진시키는 데 도움이 될 것이라고 보고 있다. (본지 기자 장쟈싱)

(원문보기) https://tech.huanqiu.com/article/4KD3Tql5vIi

[울산함성 무료구독 신청]  https://t.me/+ji13hLs-vL83ZTBl