인공 신경망 방식을 사용하는 현대 LLM의 의미 > IT소식

본문 바로가기
사이트 내 전체검색

로그인
회원가입
IT소식

인공 신경망 방식을 사용하는 현대 LLM의 의미
0

View 1,024  | 작성일2023.04.22 17:07

본문

fffe302a6a0dcc8ea9944184b7762673_1682148968_9214.png


일부 사람들은 ChatGPT가 확률적으로 얘기하는 거짓말 잘치는 챗봇이라고 평가절하 하는 의견도 있는것으로 알고 있습니다.

물론 현재 LLM(Large Language Model)은 생성모델로써 정답을 낸다기 보다는 학습된 데이터로 인해 가장 알맞다고 판단하는 문구를 내놓는 것은 맞습니다. 


하지만 주목해야 할 점은 ChatGPT는 자신이 배우지 않은 것들도 추론할수 있다는 것입니다. 


저는 최근에 ChatGPT한테 로직을 만드는것을 한번 시켜봤습니다.


fffe302a6a0dcc8ea9944184b7762673_1682149438_3054.png
정규식을 만드는건데 대괄호 안에 링크형식(절대URL, 상대URL)이 있는지 확인해서 그런패턴이 들어있다면 img 태그로 바꿔달라는 주문이었죠.


fffe302a6a0dcc8ea9944184b7762673_1682149520_8478.png
 

그럴싸한 코드를 줬고 실제로 이 코드는 동작합니다


ChatGPT는 분명 어딘가에서 정규식을 작성하는 방법을 학습했을 겁니다.

그리고 정규식을 PHP에서 사용하는 방법도 학습했을 겁니다. 

하지만 제가 얘기한 조건에 100%부합하는 학습자료는 없었을 겁니다. 


ChatGPT는 바로 이점에서 여타의 챗봇들과 다른점입니다. 

사람처럼 자신이 학습한 정보를 취합해서 새로운 결과물을 내놓습니다. 

이는 사람처럼 생각해서 답을 도출한다는 간접적인 증명이기도 하죠.

기존의 로직으로만 만들어진 챗봇에서는 만들어내기 불가능한 답변입니다. 


심지어는 자신이 만든 코드를 풀어 설명도 할수 있습니다.

이런것들을 순수 로직으로 짜기 시작하면 기하급수적인 코드량으로 거의 불가능에 가깝게 되죠.


fffe302a6a0dcc8ea9944184b7762673_1682149920_122.png
 

여기서 놀라운 점은 끝이 아닙니다. 

저는 이 코드를 테스트 하면서 제가 만들려는 기능이 특수한 경우의 수가 있다는걸 빼먹었습니다. 

대괄호를 친 링크중에 일부는 이미 하이퍼태그로 감싸져 있다는 사실을 몰랐죠.


저는 ChatGPT에게 한가지 조건을 더 제안합니다.


fffe302a6a0dcc8ea9944184b7762673_1682149975_3202.png
 

그러니 ChatGPT는 여태까지 맥락에서 자신이 만들어낸 코드를 수정해줍니다.


fffe302a6a0dcc8ea9944184b7762673_1682150036_4878.png
 

심지어 제가 전에 정규식 패턴을 설명해 달라 했으므로 그것도 빼먹지 않고 요번에 코드를 보여줄땐 패턴이 왜 이렇게 되는지 알려줬죠.


여기까지가 저와 ChatGPT의 대화입니다.

이게 단순히 확률론적으로 뱉어내는 AI와 대화할수 있는 수준일까요?


먼저 ChatGPT 라는 LLM이 쓰는 인공신경망 이라는 개념을 이해할 필요가 있습니다. 


인공신경망 이전의 컴퓨터 프로그래밍은 수학과의 싸움이었습니다.


잘 더하고 곱하고 나누고 하여 화면에 유의미한 데이터를 보여주는

어찌보면 프로그래머는 수천만개의 스위치를 껐다 켜는 전기 기술자 같은 느낌이었습니다.

가끔 생각치도 못한 사이드 이팩트가 발생하지만 여러 로직이 합쳐진다고 새로운 기능이 자동으로 만들어지진 않습니다.

그렇게 조합된 모든 기능은 프로그래머의 설계대로 이루어지고, 

가끔 예상치 못한 잘못된 답을 내놓는 것을 우리는 버그라고 하죠.


모든 기능이 설계자의 분기에 따라서 정확하게 표현되고 모든 데이터는 프로그래머의 계산이 가능한 수준에서 만들어지고 읽혀집니다. 


그걸 사용하는 사람이 이것저것을 조합하여 새로운 가치를 창출해 낼순 있지만 그것은 프로그램이 한것이 아니라

그런 툴을 이용해서 사람이 만들어낸 것이죠. 

컴퓨터는 여태껏 사람의 명령을 그대로 수행하여 결과물을 내놓는 툴이었습니다. 


하지만 2000년대 들어서 인간은 이상한 것을 발견합니다.


 

https://littlecandle.co.kr/bbs/board.php?bo_table=chatting&wr_id=3850 


한 과학자가 집요하게 0.2미리 정도 되는 세포 수천개로 이루어진 예뽄 꼬마선충이라는 작은 생물을 해부하여 이 생물의 신경망을 전부다 기록해 놓습니다.


그리고 훗날 다른 엔지니어들이 이 자료를 토대로 신경망을 디지털로 모사하고 그것을 기계에 넣어보기로 합니다.


 

 


물론 인간이 신경망을 흉내는 구조를 만들기는 했지만 저 기계가 어떻게 움직여야 하는지는 프로그래밍 하지 않았습니다.

그저 인간이 한것은 예쁜 꼬마선충의 신경구조를 최대한 비슷하게 구현했을 뿐이죠.


단순한 숫자의 강약 나열로 신경세포를 연결했더니 단순한 지능이 만들어진 것입니다. 


그리고 이러한 작은 지능의 착안에서 이루어진 연구는 현재 LLM에서 새로운 국면을 맞이하고 있죠.



댓글목록

등록된 댓글이 없습니다.

IT소식 목록

게시물 검색

접속자집계

오늘
184
어제
490
최대
6,399
전체
713,568
Copyright © LittleCandle All rights reserved.
문의메일 : littlecandle99@gmail.com
모바일 버전으로 보기