2022-12-08
THINKFORBL 사보 기술 파트 16호
“현장 적용 가능한 AI 신뢰성 교육만이 AI 발전 이뤄낼 것”씽크포비엘, AI 신뢰성 관련 커리큘럼 개발 ‘기초원칙’과 ‘정확성’ 초점 맞춰 과정 마련
Thinkforbl
KNOWLEDGE
‘“현장 적용 가능한 AI 신뢰성 교육만이 AI 발전 이뤄낼 것
”씽크포비엘, AI 신뢰성 관련 커리큘럼 개발
‘기초원칙’과 ‘정확성’ 초점 맞춰 과정 마련
인공지능(AI) 신뢰성은 AI 개발에 있어 지속적인 화두로 올라왔었고, 전 세계적으로 연구가 진행 중인 분야다. 그도 그럴 것이, AI가 우리 생활 깊숙이 자리매김하면서 편향에 대한 문제가 부각하고 있고, 이에 대한 인간의 두려움도 커지고 있어서다.
AI 개발 초기에는 인간이 만들어놓은 데이터 기반이면 자연스럽게 AI가 원하는 방식으로 ‘작동’될 것이라는 믿음이 강했다. 하지만 문제점은 여기에서 시작한다. AI는 말 그대로 인간이 원한대로 ‘작동’한다. 하지만 그 작동하는 데이터의 경우 인간이 가진 편향을 고스란히 드러내고 있고, 이에 대한 해결방안은 모색 단계에 그쳤을 뿐 접근이 어려운 상태다. 물론 AI 신뢰성에 대한 방안은 지속해 논의되고 발전 중이다. 유럽의 경우 AI 권고사항을 발표하며 AI 신뢰성을 어떻게 조망할지 안건을 제시했다. ISO 표준 역시 해당 윤리 부분을 어떻게 편향되지 않게 풀어 나아가야 할지 조금이나마 제시해주고 있다.
하지만 여기서 이야기하려는 것은 ‘신뢰성 교육’이다. 현재까지 발표된 교육 중에 ‘AI 신뢰성’이 포함된 교육은 생각보다 적으며, 대부분은 AI 개발과 언어체계를 이야기하는 데 급급하다. 그도 그럴 것이 기존 IT 인력을 최대한 많이 양산하겠다는 방향성에는 코딩이 주요한 능력으로 자리 잡고 있고, 윤리적 원칙을 지킨다는 부분은 부수적인 내용에 그치고 있기 때문이다.
최근 IT 인력양성 정책 국회 정책 토론회가 열렸다. 해당 토론회에는 민간기업뿐만 아니라 정부 기관 관계자와 대학교수가 참석했다. 토론회에서 관계자들이 입을 모아 이야기한 부분은 ‘현실과 교육의 괴리감’이었다. 교육은 이론에 치중돼 있을 뿐만 아니라 현장에 전혀 적용하지 못하는 교육내용이 부지기수이다. 그러다 보니 대학교에서 뛰어난 학점을 받고 이수한 사람조차도 현장에서는 맥을 못 추는 경우가 허다하다. 이와 관련해 민간기업이 주도해 IT 교육을 이끌고, 산학협력을 통해 산업에 즉시 적용할 수 있되 기존 지식을 가지고 갈 수 있는 협력이 중요하다는 주장이 제기됐다.
그런 면에서 AI 신뢰성 교육은 두 가지를 모두 충족하는 부분을 갖고 있다. 현재 씽크포비엘에서는 AI 신뢰성을 크게 두 가지 방향성으로 보고 있다. AI 기초원칙과 AI 정확성이다. 기초원칙의 경우 기본적으로 AI를 개발할 때 편향을 고려하는 법적‧제도적‧기술적 방향을 제시한다. 이 과정에서 인간이 AI를 개발하며 놓칠 수 있는 체크리스트가 작성되며, 개발 구성원 모두가 동의할 수 있는 사회적‧윤리적 AI 편향 제거 방법이 도출된다. 다음으로 AI 정확성은 얼마나 투명하게 AI 상태를 볼 수 있고(explainable AI : 설명 가능한 인공지능), 지속적인 개선방안을 모색하며 편향되지 않는 방법으로 접근하는 방법이다. 기초원칙과 정확성 두 가지가 조화롭게 이뤄져야 비로소 신뢰할 수 있는 AI가 개발되는 것이다.
그렇다면 신뢰성 교육은 어떠한 방식으로 진행해야 할까? 신뢰성 교육은 기초원칙을 통해 AI를 접하는 사람들에게 AI에 대한 이해를 돕는 방향으로 도출돼야 한다. 해당 부분에서는 윤리교육과 비슷한 방식으로 전개가 될 것이다. AI 편향이 가진 문제점과 해결방안, 사례, 철학적 접근 등 다양한 방식으로 AI가 편향된 데이터로 학습하면 생기는 많은 문제점을 알아가고 위험성을 숙지한다. 다음으로는 AI 정확성이다. AI에게 어떤 것을 학습시킬지에 대한 부분과 얼마나 충분한 데이터를 가지고 있고, 선별해야 하는지에 대한 기술적인 고려방안이 도출될 것이다.
이제 남은 것은 언제부터 AI 신뢰성 교육이 필요한지다. 현재 씽크포비엘이 가장 크게 고려하고 있는 대상은 직접 적용이 가능한 직군과 새로운 직군의 탄생, 그리고 교육 범위에 있다. 윤리적인 부분은 중‧고등학교부터 꾸준히 습득을 시키고 AI 개발과 필수조건에 대한 부분을 서서히 고도화하는 방식이 필요하다. 또한 새로운 직군의 경우 명확한 도출이 가능하지만, 현장에서 직접 적용하고 기존 직군과 조화를 이루는 것은 검증이 필요한 상태다. 다음으로 고려해야 할 것은 IT 기업 취업을 어려워하고 있는 경력단절여성과 취업이 어려운 인문학 전공자다. 경력단절여성과 인문학 전공자의 경우 AI 개발에 새로운 방향성을 보여줄 수 있는 잠재력을 가지고 있지만, 취업 방향성을 설정하기 어려운 현실이다. 이들을 신뢰성 교육으로 포용할 수 있는 교육 방안이 도출된다면 AI 신뢰성은 새로운 국면을 맞이할 수 있다.
현재 씽크포비엘은 신뢰성 교육을 꾸준히 발전시키고 있다. 전세계에서 보이는 편향 문제에 대한 모니터링뿐만 아니라 앞으로 방향성을 도출하기 위해 현장의 목소리도 수렴해 고도화 중이다. 고도화를 통해 신규 일자리 창출은 물론, 현재는 정체돼있는 AI 신뢰성 교육 분야에 한 걸음 나아갈 수 있기를 기대한다.
“Only field-applicable AI reliability training will achieve AI development”
THINKforBL develops curriculum related to AI reliability
Prepared courses focusing on ‘basic principles’ and ‘accuracy’
Artificial intelligence(AI) reliability has been an indispensable topic for AI’s development, and research for AI’s reliability is still ongoing as it is a relatively new research area. AI has been indispensable part of our daily lives. As AI has been advancing it comes with its own challenges such as bias that can cause consequences(e.g. racial bias, gender bias etc), experts and society alike are constantly worried of the AI’s bias problem.
What we are talking about here is ‘reliability education’. Among the trainings announced so far, there are fewer trainings that include ‘AI reliability’ than expected, and most of them are focused on talking about AI development and language systems only. This is because coding is positioned as a major ability in the direction of mass-producing for existing IT manpower, and keeping ethical principles is only secondary.
Currently, THINKforBL views AI reliability in two major directions. AI basic principles/fundamentals and AI accuracy. In the case of basic fundamentals it includes, the legal, institutional, and technical directions that consider bias when developing AI are basically presented. In the process, a checklist with items that humans can miss while developing AI is drawn up in order to help avoid problems that could occur when developing the AI system, and a method for removing social and ethical bias in AI that all members of the development team can agree on is derived. AI accuracy is how transparently we can see the state of AI(explainable AI), and how to approach it in an unbiased way, seeking continuous improvement. Reliable AI can only be developed when both basic principles/ fundamentals and accuracy are harmonized.
글‧사진 / 김도현
2022-12-08
THINKFORBL 사보 기술 파트 16호
“현장 적용 가능한 AI 신뢰성 교육만이 AI 발전 이뤄낼 것”씽크포비엘, AI 신뢰성 관련 커리큘럼 개발 ‘기초원칙’과 ‘정확성’ 초점 맞춰 과정 마련
Thinkforbl
