페이지 정보

저는 AI 에 대해서 얘기할때 전문가랍시고 나오는 분들까지 AI 는 확률적 기계일 뿐이니까

인간과 다르다는 뉘앙스를 풍길때 가장 불편합니다.

그 주장이 틀렸다는게 아니라 그래서 인간은 다르냐는 지점이 문제의식이죠.

인간도 당연히 학습을 할때는 뉴런의 강화학습으로 이뤄진 확률기계 입니다...

단지 LLM 과 다르게 학습하는 시그널이 텍스트 외에도 여러 생리적 신호까지 포함하는게 조금 다를뿐이죠.

사실 그 차이는 데이터 채널의 풍부함이지 그 풍부함이 인간을 더 도덕적이거나

올바른 사람으로 만들어주진 않습니다.

그런건 올바른 관념을 학습하고 훈련해서 이뤄지는 일일 뿐이죠.

인간도 부모가 자식의 정신적 성숙보다 사회의 등수나 학습점수에 집착하면

인간을 계급적으로 보고 역지사지 못하는 인간으로 자라납니다.

그리고 폭력적인 환경에 많이 노출된 아이들은 커서 폭력을 휘두를 확률도 높죠.

인간도 결국 그 확률머신이라고 평가절하하는 그 구조에서 벗어나지 못합니다..

단지 엔지니어들이 고민해야 하는건 어른이 아이를 기를때 좀더 윤리적이고 도덕적인 AI 가 되려면

어떤 학습을 시켜야 할지 고민해야 할일이지 그게 LLM이 확률머신이어서 그런건 아니라는거죠.

그래도 요즘앤 AI 성능이 하루가 다르게 올라가니까 확률머신 얘기는 조금 줄어들었는데

AI 초창기에 전문가랍시고 꺼드럭대는 사람들이 와서 그얘기만 하는 통에 오히려 

중요한 부분을 놓친다는 생각을 지울수가 없었습니다.

그 중요한건 그럼 사람은 그게 아니냐는거죠..

기술적으로 보면 다르긴 하죠.. 이제는 AI 기술이 발전해서 신경망 자체는 생물에서

아이디어를 가지고 왔지만 어텐션 기술같은 독자적인 길로 가고는 있지만

오히려 그런 기술을 통해서 인간에 대한 이해가 높아지고 있는 요즘입니다.

다만 한가지 걱정되는건 현재 AI 속도전으로 인하여 AI 기업들이 윤리적인 AI 에 고민은 

조금씩 옅어지고 있다는 느낌은 지울수가 없습니다.

초지능 AI 가 잘못된 훈련으로 사이코패스처럼 되는건 좀 끔찍하죠.. 

과연 현대 AI 태크 회사들은 이런걸 고민하고 있을지 조금 의문이긴 합니다.