AI 논쟁, 사회현상, 미래전망

생성형 인공지능의 논란과 사회현상, 성장속도와 연구와 개발에 관한 단상, 그리고 법제화를 살펴볼까 한다. 그리고 우리의 스탠스를 어떻게 할 것인가에 대해 말해보고자 한다.

ai-ATOLL.com 의 미드저니 생성 이미지

 

현재 종종 일어나기도 하고, 더 큰 걱정을 몰고 올 사례로서, 범죄에 악용되는 점이다.

특정인의 얼굴을 AI로 합성해서 딥 페이크와 목소리 복제기술까지 사용하여 가짜 뉴스를 생성할 수도 있다는 문제다. 선거기간처럼 사실여부를 확인하기 어려운 짧은 기간 안에 대중을 선동하여 특정후보자를 공격하거나, 유명인사의 영상과 음란물을 합성한다거나, 누구나 다 아는 미국대통령의 영상을 합성해서 가짜뉴스를 퍼트리는 등의  악용사례가 유명하다. 딥페이크와 특정인의 목소리를 복제하는 기술인 딥 보이스가 전 세계적으로 확산하고 있다.

둘은 똑같은 가치를 지향하는 기술로 세상에 등장했지만, 사용하기 쉽다는 측면이 오히려 악용하기가 너무 쉽다는 특징으로 변모해서 범죄에 많이 쓰이고 있다.
예를 들어 딥페이크 기술을 악용한 최초의 범죄인 2017년 말 미국의 온라인 커뮤니티 레딧에서 딥 f라는 닉네임을 사용하던 한 네티즌이 여성 유명 인사의 영상을 음란물에 절묘하게 합성하여 인터넷에 유포한 것이다.
몇 달 뒤에 버락 오바마 전 미국 대통령의 딥페이크 영상이 인터넷 공간에 나돌았고, 이때를 기점으로 전 세계에 딥페이크 영상 주의보가 내려졌다.
이때까지만 해도 사전에 생성된 영상과 음성이 유포되는 수준이었지만, 최근은 기술의 발달로 인공지능이 실시간으로 영상과 음성을 합성하면서 범죄 행위가 더욱 지능적으로 진화했다.
이것은 기술의 문제라기보다 발전하는 기술을 사용하는 사용자의 문제라고 볼 수 있지만, 단순히 윤리적인 문제라고 치부할 만한 가벼운 문제는 아닐 것이다.

그래서 윤리적인 문제보다 개발 속도, 연구 속도를 더욱 중시해온 인공지능 개발 업체에도 비판의 목소리가 쏟아지고 있다.

 

두 번째 큰 문제로 인공지능이 생성하는 정보에 대한 신뢰성 문제가 있다.
흔히 말하는 할루시네이션이라는 인공지능에 의한 환각 현상으로 인한 잘못된 답변이 이런 신뢰성 문제를 일으킬 수 있는데, 우리가 쉽게 알 수 있는 인공지능의 환각 현상은 우리가 구분해 낼 수 있지만, 전문적인 분야에서 아주 미세하게 일어나는 할루시네이션은 인간이 감지할 수 없을 것이다.
그렇기 때문에 그럴 듯한 가짜 정보를 생성하는 AI 할루시네이션은 마치 인간이 가짜 감각을 인식하는 환각처럼 인공지능도 존재하지 않는 정보를 만들어낼 수 있다는 데 문제가 있다.
이 문제의 가장 큰 이유는 인공지능이 이 세상을 학습에 의한 글로만 배웠기 때문이다. 그럴 듯한 방식으로 답변을 결정하는 인공지능이다 보니 할루시네이션을 유도하는 것이다.

현재 구글과 마이크로소프트는 이런 AI 환각을 인지하고 극복하고자 했지만, 아직도 미세하게 두 서비스에서 AI 할루시네이션 현상은 발생하고 있다.
그러므로 사용자는 인공지능 답변에 대해 항상 검증하는 습관을 가져야 할 것이다.

세 번째로 큰 문제는 윤리적인 문제, 법적인 문제다.
예를 들어서 인공지능이 잘못된 인공지능 학습에 의해서 답변을 혐오스럽고 차별적인 발언을 쏟아낼 수가 있다.
마이크로소프트에서 개발한 챗봇인 테이가 트위터에서 혐오와 차별이 담긴 발언을 쏟아내서 하루 만에 서비스가 중단된 것이 대표적이고, 우리나라의 이루다라는 인공지능도 개인 정보를 여과 없이 학습해서 인공지능 답변에 이런 사적인 정보를 출력하는 일이 발생해서 1개월 만에 서비스를 중단한 적이 있다.

이러한 문제가 발생하는 것을 막기 위해 우리는 데이터를 철저하게 익명화해야 되고, 알고리즘을 개선시켜야 한다.
데이터 생성자의 동의를 구해야 하며, 별도의 감독기구를 두어 처리 과정을 투명하게 공개하려는 노력도 필요하다.
콘텐츠를 도용해서 마구잡이로 인공지능 학습에 사용하는 것도 문제다. 예를 들어 유튜브나 유명한 SNS에서 자기가 만들고자 하는 영상과 비슷한 주제의 영상을 선택해서 그중에 가장 인기가 많은 동영상을 찾고, 그 동영상에서 음성을 추출해서 텍스트로 만들어진 스크립트를 만들고, 그 스크립트를 교묘하게 변형시켜서 과학 유튜브 채널에 해당, 관련된 유튜브 채널에 콘텐츠를 무단으로 도용하는 일이 있었다.
이처럼 누군가의 콘텐츠를 도용해서 마치 자기가 창작한 것처럼 콘텐츠를 생산하는 문제가 있다.

그리고 저작권 문제가 있다. 현대사회의 대부분의 국가에서는 저작권 보호 대상은 표현의 창작물을 정의하고 있으며, AI가 만들어낸 창작물의 저작권은 대부분의 국가에서 인정하지 않고 있다. 한국에서도 인공지능 작곡가가 만든 음악에 대해 저작권료 지급 중단을 결정했고, 미국에서도 미국 저작권청이 만든 만화를 미드저니를 이용하여 만듦으로써 이 저작권 보호 신청을 법원이 기각한 바 있다.
원숭이나 코끼리가 그린 그림에 저작권이 없는 것처럼 인공지능이 생성한 결과물의 저작권도 없다라는 것과 마찬가지라는 것이다.

하지만 최근에는 약간의 변화가 일어나고 있다. 굉장히 보수적인 입장이었던 미국의 저작권청이 포토샵을 통해 사람이 만들어낸 이미지처럼 인공지능을 통해 사람이 충분한 노력을 기울여서 만들었다면 또 그것을 입증할 수 있다면 저작권을 인정할 수 있다라고 여지를 남긴 것이다.

이렇듯 시간이 지날수록 대중의 인식에 따라 또한 관료주의에까지 점차적으로 느리지만 빠르지 않게 가이드라인이 생성될 것이고, 이런 가이드라인과 대중의 인식에 의해 법제화가 진행될 것이다.
그리고 학습과 결과물 생성 과정에서의 문제점이 있는데, 이미지 생성하는 데 있어서 어떤 이미지를 학습해서 어떻게 이미지를 생성하는지 알고리즘이나 방식이 밝혀진 바 없기 때문에 예술가 단체 또는 작가 단체 와 같이 창작 단체들이 이런 움직임에 많이 동참하고 있다. 특히 예술가들은 자신의 작품 활동으로 인해서 어디에서 어떻게 사용될지 모른다는 불안감과 자기의 작품이 순식간에 무의미해질 수 있다는 불안감 때문에 이러한 항의를 많이 하는 추세이다. 물론 AI가 만든 작품만으로 AI를 지속적으로 학습시키면 되지 않겠냐 라고 할 수 있겠지만, 일본 이화학연구소 하타야 류이치로 교수팀의 2022년 연구 결과에 따르면 AI가 생성한 이미지를 학습에 사용하면 사용할수록 그 결과물의 퀄리티는 지속적으로 낮아진다고 한다.
그렇기 때문에 AI 학습에 필요한 것은 인간의 작품과 인간의 텍스트라는 사실을 인지하고, 생성형 AI 개발사는 하루빨리 예술가들과 공존하는 방법을 찾아야 한다.

미래의 전망에 대해 생성형 AI는 지금 이 순간에도 엄청난 속도로 빠르게 발전하고 있고, 수많은 서비스가 하루가 다르게 개발되고 출시되고 있다. 손가락을 못 그리거나 발가락이 여러 개 달리는 등 인공지능에 의한 잘못된 이미지 문제나 텍스트 문제 또한 이미 거의 해결되었고, 이제는 사용자가 프롬프트에 의해서 일관성 있는 이미지를 생성할 수도 있다.
시간이 지날수록 생성형 인공지능의 고도화는 굉장히 빠른 속도로 진행되고 있고, 한 달 1년이 다르게 발전할 것이다. 가트너는 2025년까지 신약 및 신소재 의 30%가 인공지능에 의해 만들어질 것이라고 예상했고, 구글의 인공지능 또한 여태까지 밝혀내지 못했던 유전자 지도를 해석하고 만들어냈다는 뉴스가 있다.
2030년에는 전체 내용의 90%를 인공지능이 만든 영화가 최소 한 편에서 16편은 만들어질 것이라고 전망한 바 있다.

 

그랜드뷰 리서치에 따르면 생성형 인공지능의 시장 규모는 연평균 30 5%씩 성장해서 2030년에는 엄청난 규모에 달하는 시장 규모로 성장할 것이라고 예상되었는데, 그 시장 규모는 1천억 달러를 넘을 것으로 예상한다.
일자리도 GPT나 제미나이 같은 멀티 모달 인공지능 에 의해 미국 근로자의 5분의 1이 대체될 수 있다고 또는 영향 받을 수 있다고 예상했고, 인공지능이 영향을 끼치는 업무직족은 오히려 블루 컬러가 아닌 화이트 컬러로 통역사, 번역가, 시인, 작사가, 작곡가, 수학자, 천문학자, 화학자, 세무사, 법조인, 언론인 등이 인공지능의 영향을 크게 받을 것이라고 주장했다.
골드만 삭스가 자연어 처리 기술의 발달로 글로벌 GDP는 7% 가 상승하고, 생산성 성장률은 약 1.5%가 상승할 것이라고 예상했다.

생성형 인공지능으로 인한 업무 변화로 3억 개에 달하는 정규직 일자리가 자동화될 것이라고 주장했고, 미국에 존재하는 반 이상의 업무를 인공지능이 수행하게 될 것이라고 전망했다.
여전히 우리는 인공지능에 의한 악용 가능성, 그리고 자체적인 문제, 그리고 사회 융합적인 문제, 법, 제도적인 문제, 윤리적인 문제가 수북히 쌓여 있다.

하지만, 인간 역사에서 그랬듯 새로운 것이 나타나 혁명을 일으킬 때에는 항상 시간이 필요했고, 변화가 먼저 이루어지고 그에 따른 문제의 해결이 이루어졌다. 그래서 우리는 인공지능에 대해 밝게 보고 투자와 학습과 개발을 멈추지 않아야 할 것이다. 뒤쳐지지 말자. 앞서나가자. 사용할줄아는것, 그리고 활용해서 뭔가 만들어낼줄 아는것만으로도 앞서나가는 것이다.

 

2024.01.24 - [인공지능 살펴보기] - 좋은 결과를 얻어내기 위한 프롬프트 활용 꿀팁

좋은 결과를 얻어내기 위한 프롬프트 활용 꿀팁

2024.01.23 - [인공지능 작품] - 젤다의 전설 캐릭터 실사화 feat.미드저니 프롬프트와 사용옵션 설명 [24.1.23]

젤다의 전설 캐릭터 실사화 feat.미드저니 프롬프트와 사용옵션 설명 [24.1.23]

2024.01.23 - [인공지능 작품] - AI 미드저니로 그린 작품들 feat.Midjourney 프롬프트 포함 [24.1.23]

AI 미드저니로 그린 작품들 feat.Midjourney 프롬프트 포함 [24.1.23]

2024.01.22 - [생활속의 인공지능] - 인공지능 관련 주식 이야기

인공지능 관련 주식 이야기

2024.01.18 - [인공지능 살펴보기] - 이미지 생성 AI 훑어보기 [달리2, 미드저니, 레오나르도, 드림스튜디오, 렉시카, 스테이블 두들, 칼로, 오토드로우]

이미지 생성 AI 훑어보기 [달리2, 미드저니, 레오나르도, 드림스튜디오, 렉시카, 스테이블 두들,

2024.01.18 - [인공지능 살펴보기] - 오디오, 사운드, 음악 생성 AI 훑어보기 [AIVA, 사운드로우, 비트봇, 뮤지아, 클로바더빙]

오디오, 사운드, 음악 생성 AI 훑어보기 [AIVA, 사운드로우, 비트봇, 뮤지아, 클로바더빙]

2024.01.17 - [인공지능 살펴보기] - 비디오(동영상) 생성 인공지능 훑어보기 [브루, 비디오스튜, D-ID, 브이캣, 픽토리, 슈퍼밈, 애니메이티드 드로잉스, 헤이젠, Tome]

비디오(동영상) 생성 인공지능 훑어보기 [브루, 비디오스튜, D-ID, 브이캣, 픽토리, 슈퍼밈, 애니메

2024.01.17 - [인공지능 살펴보기] - 텍스트 인공지능 훑어보기 [Bard, Gemini, ChatGPT, 노션, 뤼튼, 클로바X]

텍스트 인공지능 훑어보기 [Bard, Gemini, ChatGPT, 노션, 뤼튼, 클로바X]