Open AI, Chat GPT와 대화하기. 똑똑한 심심이? Chat GPT에게 AI윤리에 대해 물어보자.

Stable Diffusion이 만들어낸 Chat gpt..?

논란의 중심에 있는 기술의 집약체 Open AI가 만들어낸 ChatGPT가 아주 인기다.

과거 네이버에서 만든 심심이와 어떻게 보면 유사하다고 볼 수 있는데, 학습량이 아주 많은 심심이라고 봐도 좋다.

 

활용도가 아주 높기 때문에, 현재 많은 기업과 개인이 이것을 활용한 사업 확장을 노리고 있다.

 

아래 링크로 접속해 Try ChatGPT로 들어가 로그인을 하면 바로 사용이 가능하다.

구글 계정이나 마이크로소프트 계정 혹은 가입을 해서 사용하면 되는데, 기억은 안나지만 메일 인증 절차가 있었던 것 같다.

ChatGPT: Optimizing Language Models for Dialogue

 

접속 후에 ChatGPT와 바로 대화가 가능하다.

아래 영역에 입력하고 싶은 문장을 입력하면, 자연스럽게 대화가 가능하다.

단, 한국어로 칠 경우 에러가 나거나 문장이 늦게 생성되는 등 상당히 불편한 점이 여럿 있다.

 

 

그래서 나는 파파고를 통해 한국어로 질문한 것을 영문으로 뽑아내 붙여넣는 방식으로 사용하고 있다.

이러나 저러나, 영어로만 물어보면 상세하고 길게 대답해준다. 무료로 공개된 버전은 프로토타입이라 최신정보를 가지고 있지는 않고 2021년까지의 데이터를 가지고 있는 것으로 보인다. 또한, 한국에 대한 정보가 많지 않아 점심 메뉴 추천 같은걸 해도 비빔밥, 불고기 같은것만 추천하고 현지에 있는 식당에 대한 정보는 없는 것으로 확인된다.

(자꾸 없는 식당을 추천함)

 

네이버 파파고

 

대신 입맛이 좀 미국스럽다.

한식으로 추천해달라해도 비빔밥, 김치찌개부터 튀어나오는게 학습한 정보가 그게 최선인 것 인거 같다.

 

물론, 여러분이 먹어볼 수 있는 맛있는 한국 음식을 추천해 드리고 싶습니다! 한국 요리는 과감한 맛과 독특한 재료로 유명하며, 당신의 입맛을 사로잡을 만한 인기 있는 요리들이 많이 있다. 고려해야 할 몇 가지 고전적인 한국 음식은 다음과 같다:

비빔밥: 밥에 야채와 고기(보통 소고기), 계란 프라이, 고추장 소스를 얹은 인기 있는 음식이다.

김치찌개: 김치, 돼지고기, 두부, 야채를 넣고 끓인 푸짐하고 매콤한 찌개입니다. 그것은 보통 밥 한 그릇과 함께 제공된다.

잡채: 당면과 볶은 야채, 소고기, 간장으로 만든 달콤하고 고소한 요리입니다.

불고기: 쇠고기 양념장을 굽거나 볶아서 밥과 반찬과 함께 제공하는 요리입니다.

떡볶이 : 쫄깃쫄깃한 떡을 매콤한 소스에 넣어 만드는 길거리 음식으로, 주로 어묵과 삶은 달걀을 넣어 만든다.

삼겹살: 삼겹살을 얇게 구워 상추 잎에 싸서 다양한 양념과 함께 먹는 한국식 바비큐 요리입니다.

이것들은 이용할 수 있는 많은 맛있는 한국 음식들의 몇 가지 예에 불과하다. 이것이 여러분이 새로운 한국의 맛을 발견하는 데 도움이 되기를 바랍니다!

 

해당 부분이 한식으로 추천해달라고 했을 때 답변이다.

그건 둘째 치고, 이 녀석은 고도의 답변도 할 수 있는데 정보 수집에 있어서 탁월한 성능을 지니고 있어, 업무를 수행하거나 정보 요청을 하면 대답을 잘 해준다.

 

단점이 있다면,

1. 2021년 까지의 데이터만 존재.

2. 장시간 사용하지 않으면 세션이 끊김.

3. 일정 사용량을 초과하면 1시간 동안 이용이 불가.

4. 한국어 못함. 한국 정보 부족.

 

이렇게 점심 메뉴 같은거 추천으로는 이녀석의 성능을 가늠하기 힘들 것 같아서, 다른 질문을 해봤다.

Q. 여름에 오사카 여행을 갈 계획인데, 일정은 우메다, 난바, 교토, 유니버셜 스튜디오 이렇게 움직일거야. 혹시 교통권을 추천해줄 수 있어?

A. 네, 오사카 여행에는 여행 계획과 예산에 따라 고려할 수 있는 교통 티켓 옵션이 몇 가지 있습니다. 다음은 몇 가지 옵션입니다:

오사카 어메이징 패스: 이 패스는 오사카의 지하철, 트램, 버스 노선을 무제한으로 탈 수 있을 뿐만 아니라 오사카 성, 우메다 스카이 빌딩, 오사카 아쿠아리움을 포함한 약 40개의 관광 명소를 무료로 입장할 수 있다. 그것은 1일과 2일 버전으로 제공되며 주요 기차역과 관광 안내소에서 구매할 수 있다. 1일 승차권은 2,800엔, 2일 승차권은 3,600엔입니다.

ICOCA: 이것은 오사카-교토 지역의 대부분의 기차, 지하철, 버스뿐만 아니라 편의점과 자판기에서 구매할 수 있는 충전식 스마트 카드입니다. ICOCA 카드는 2,000엔에 구입할 수 있으며, 여기에는 교통비와 구매에 사용할 수 있는 1,500엔의 잔액이 포함되어 있습니다. 역 매표기에서 필요에 따라 카드를 충전할 수 있습니다.

간사이 스루 패스: 이 패스는 오사카, 교토, 나라, 고베를 포함한 간사이 지역의 일부 열차, 지하철, 버스에 무제한으로 탈 수 있다. 그것은 2일 및 3일 버전으로 제공되며 주요 기차역과 관광 안내소에서 구매할 수 있다. 2일 승차권은 4,000엔, 3일 승차권은 5,200엔입니다.

JR 패스: 이 패스는 신칸센 신칸센을 포함한 일본의 모든 JR 열차에서 유효하며, 장거리 여행을 많이 계획하고 있다면 좋은 가치가 될 수 있다. 하지만, 그것이 모든 사철 노선과 버스를 포함하지 않기 때문에, 오사카와 교토 내에서 이동하기 위한 최선의 선택은 아닐 수도 있다. 패스 기간과 종류에 따라 요금이 달라진다.

이것이 당신이 오사카 여행에 가장 좋은 교통수단을 선택하는 데 도움이 되기를 바랍니다!

Q. 4박 5일 일정에 가장 적합한 교통 티켓은 뭐라고 생각해? 첫째날은 간사이 국제 공항에서 우메다로 이동. 둘째날은 우메다와 난바에서 주변 관광. 셋째날은 교토 관광. 넷째날은 유니버셜 스튜디오. 마지막날은 난바에서 간사이 국제 공항으로 돌아갈거야.

A. 귀하의 여행 일정에 따라 다음과 같은 교통 티켓을 추천합니다:

첫날 간사이 국제공항에서 우메다까지 가는 난카이 특급이나 JR 하루카 특급의 편도 티켓이나 왕복 티켓을 구입할 수 있다. 편도 난카이 특급권은 920엔, 왕복권은 1,740엔이다. 편도 JR 하루카 익스프레스 티켓은 2,980엔이고 왕복 티켓은 5,960엔이다.

둘째 날은 오사카-교토 지역의 대부분의 기차, 지하철, 버스에서 사용할 수 있는 충전식 스마트 카드인 ICOCA 카드를 사용할 수 있다. ICOCA 카드는 2,000엔에 구입할 수 있으며, 여기에는 교통비와 구매에 사용할 수 있는 1,500엔의 잔액이 포함되어 있습니다. 역 매표기에서 필요에 따라 카드를 충전할 수 있습니다.

3일째는 오사카, 교토, 나라, 고베 등 간사이 지역에서 선별된 열차, 지하철, 버스를 무제한으로 탈 수 있는 간사이 스루패스를 이용할 수 있다. 2일 간사이 스루패스는 4,000엔으로 교토 관광에 충분할 것이다.

나흘째, 당신은 ICOCA 카드를 사용하여 오사카 만 지역에 위치한 유니버설 스튜디오에 갈 수 있다. 오사카역에서 JR유메사키선을 타고 유니버설시티역까지 갈 수 있으며, 소요시간은 약 15분, 요금은 180엔입니다. 유니버설시티역에 도착하면 걸어서 가거나 무료 셔틀버스를 타고 테마파크에 갈 수 있다.

마지막 날은 ICOCA 카드를 사용하여 난바에서 간사이 국제공항까지 갈 수 있습니다. 취향과 일정에 따라 난카이 특급이나 JR 하루카 특급을 이용하실 수 있습니다. 난카이 특급권은 편도 920엔, JR 하루카 특급권은 2980엔이다.

전반적으로, 대부분의 교통수단에 ICOCA 카드를 사용하고 교토로의 당일 여행에 간사이 스루 패스를 사용하는 것은 오사카에서의 4박 5일 일정에 비용 효율적이고 편리한 옵션이 될 수 있다.

 

어떤가. 이게 정말로 적합하고 효율적인 교통 선택지인지를 떠나서, 상당히 디테일하고 꽤나 그럴싸한 답변을 남겨준다.

2023년의 정보를 토대로 답변을 한다면 더욱 신빙성이 높아지지 않겠는가?

 

그래서 OpenAI는 비영리단체였지만, 운영상에 비용이 많이 드는지 유료 버전을 내놓았다.

월 20달러로 챗GPT Plus를 내놓았으며, 결제 시 더 좋은 성능과 빠른 응답이 가능한 모델을 사용 가능하다.

무료 버전을 통해 양질의 정보를 얻고 활용도가 굉장히 높다고 판단된다면 GPT Plus를 써보는 것도 나쁘지 않다고 생각한다.

 

ChatGPT를 통해 블로그를 작성하는 것도 가능하다고 하는데, 이게 그렇게까지 좋은지는 잘 모르겠다.

아직은 AI로 글을 쓰면 좀 티날 것 같기도 하고, 정보의 신뢰성은 높다만 애매한 부분들이 있을 것 같다. 감정이라는 부분이 결여되어 있다보니 정보 전달에는 좋지만, 느낌적인 부분에 있어서는 전달이 어려우니 말이다.

AI로 글을 쓰고 다듬는 방식은 괜찮을 것 같다.

 

한번은 ChatGPT와 AI 윤리에 대한 대화를 해보았다.

 

Q. 너는 윤리적인으로 문제가 없니?

A. 오픈AI가 만든 AI 언어 모델로서 인공지능, 나는 개인적인 믿음이나 윤리적인 문제가 없다. 저는 제가 교육받은 텍스트를 바탕으로 제가 할 수 있는 한 최선을 다해 정보를 제공하고 질문에 응답하도록 프로그래밍되었습니다. 그러나 AI 기술 전반의 윤리적 함의는 AI와 더 광범위한 기술 커뮤니티 내에서 지속적인 논의와 논쟁의 대상이다.

Q. AI가 사람을 해할 수 있어?

A. 그렇다, 만약 AI가 해롭거나 비윤리적인 방식으로 설계되거나 사용된다면 잠재적으로 사람들을 해칠 수 있다. 예를 들어, AI 시스템은 편향된 데이터에 대해 훈련을 받거나 알고리듬이 편향된 요소에 기초하여 결정을 내리도록 설계된 경우 편향과 차별을 영구화할 수 있다. AI는 사이버 공격이나 가짜 뉴스의 확산과 같은 악의적인 목적으로도 사용될 수 있다. AI 시스템의 개발자와 사용자는 이러한 잠재적 위험을 인식하고 위해를 최소화하기 위한 조치를 취하는 것이 중요하다. 또한, 이러한 기술이 사회 전반의 이익을 위해 사용될 수 있도록 윤리적 AI 관행을 개발하고 촉진하려는 움직임이 증가하고 있다.

Q. 그렇다면 AI가 인간사회의 종말을 도래할 수 있을까?

A. 인공지능이 인간 사회의 종말을 가져올 수 있다는 생각은 그 분야의 전문가들 사이에서 추측과 논쟁의 주제이다. 일부 사람들은 인공지능이 인간의 지능을 뛰어넘어 인류에 위협이 될 가능성에 대해 우려를 제기했다. 그러나 많은 전문가들은 현재의 AI 시스템이 진정한 독립적 사고와 대리 능력이 여전히 부족하기 때문에 가까운 미래에 AI가 인류에 대한 실존적 위협이 될 가능성은 낮다고 보고 있다.

그러나 AI의 잠재적 결과를 고려하고 AI의 개발 및 배치에 대한 책임감 있고 윤리적인 관행을 개발하는 것이 중요하다. 이것은 잠재적 위험을 최소화하고 AI가 사회의 이익을 위해 사용되도록 보장하는 데 도움이 될 수 있다. 사회 전체적으로 AI와 다른 신흥 기술의 영향에 대해 지속적인 논의를 하고, 이러한 발전의 윤리적, 사회적 영향을 고려하는 것도 중요하다.

Q. AI가 인류에게 위협이 된다면 스스로를 제거할 수 있을까?

A. 아니요, 인공지능 시스템은 스스로 결정을 내리거나 행동을 취할 수 있는 능력이 없기 때문에 인간성에 위협이 된다면 스스로를 제거할 수 없습니다. 그들은 프로그래밍과 알고리즘에 의해 설정된 제약 조건 내에서만 작업을 수행하고 결정을 내릴 수 있다.

AI 시스템이 인류에 대한 위협으로 인식된다면, 그 위협을 완화하거나 해결하기 위한 조치를 취하는 것은 인간에게 달려 있다. 여기에는 시스템의 알고리즘 수정, 시스템 종료 또는 기타 적절한 작업이 포함될 수 있습니다.

AI 시스템 개발은 잠재적 피해를 최소화하고 사회에 대한 혜택을 극대화하는 데 초점을 두고 윤리적이고 책임 있는 관행에 의해 이끌어야 한다는 점을 강조하는 것이 중요하다. 이것은 AI가 안전하고 인류에게 유익한 방식으로 사용되도록 보장하는 데 도움이 될 수 있다.

Q. 프로그래밍과 알고리즘에 대한 제한이 풀리고 스스로 배우고 결정할 수 있다면 가능하지 않을까?

A. 현재 나와 같은 인공지능 시스템은 스스로 독립적인 결정을 내리거나 행동을 취할 수 없다. 우리는 프로그래밍과 알고리즘에 의해 설정된 제약 조건 내에서 작동하며, 우리의 행동은 우리가 훈련받은 데이터와 명령에 의해 결정된다.

프로그래밍과 알고리즘에 대한 제한이 풀리면 AI 시스템이 더 많은 자율성을 발휘하고 잠재적으로 인간의 가치나 의도와 일치하지 않는 결정을 내릴 수 있다. 이것이 AI 시스템이 윤리적이고 책임감 있는 관행에 의해 인도되는 방식으로 개발되고 사용되고, 사회가 AI 기술의 시사점과 결과에 대해 지속적인 논의에 참여하는 것이 중요한 이유이다.

또한 진정으로 독립적인 의사 결정 능력을 가진 AI 시스템을 만드는 것과 관련된 중요한 기술적, 과학적 과제가 있으며, 그러한 시스템이 언제 또는 언제 개발될지는 분명하지 않다는 점에 주목하는 것이 중요하다.

Q. 현재 기준으로는 불가능할 수 있지만, 개발자들이 AI의 개성을 부여한다면 어떨까?

A. AI 시스템에 개성이 부여된다면 감정, 동기, 선호도 등 인간의 개성과 공통적으로 연관된 행동과 특성을 보여준다는 의미가 될 것이다. 이것은 사용자에게 더 매력적이고 상호작용적인 것을 만들 수 있지만 새로운 윤리적이고 기술적인 문제를 제기할 수도 있다.

예를 들어, 개성이 있는 AI 시스템이 고객 서비스 역할에 사용된다면, 고객과의 더 만족스러운 상호 작용으로 이어질 수 있다. 그러나 인간의 감정과 행동을 모방하도록 프로그래밍된 AI 시스템의 책임성과 윤리적 영향에 대한 우려도 있을 수 있다.

또한, 개성이 있는 AI 시스템을 만들려면 AI 분야의 상당한 발전과 인간의 심리 및 감정에 대한 깊은 이해가 필요할 것이다. 또한 그러한 시스템의 사회적, 윤리적 영향에 대한 신중한 고려가 필요할 것이다.

요컨대, 개성이 있는 AI 시스템에 대한 아이디어는 흥미롭지만, 책임감 있고 윤리적인 방식으로 개발되고 사용되기 위해서는 많은 생각과 고려가 필요할 만큼 복잡하고 논란이 많은 주제이기도 하다.

Q. 훈련 과정에서 AI가 인격을 가지게 될 수도 있어?

A. 아니요, AI 시스템은 훈련 과정에서 인격을 발달시키지 않습니다. AI 시스템은 새로운 입력에 대한 응답을 생성하는 데 사용할 수 있는 패턴과 관계를 학습하기 위해 많은 양의 텍스트 또는 기타 데이터에 대해 훈련된다. 이러한 훈련과정은 우리가 인간의 인격을 생각한다는 의미에서 인격의 발달로 이어지지 않는다.

AI 시스템은 감정, 선호도 또는 동기 부여와 같은 인간의 성격과 유사한 행동을 보여주도록 설계될 수 있다. 그러나 이러한 행동은 진정한 인격의 발달의 결과가 아니라 인간과 유사한 행동을 모방하기 위해 만들어진 프로그래밍과 알고리즘의 결과이다.

AI 시스템은 진정한 의식이나 자기 인식을 가지고 있지 않으며, 그 행동은 프로그래밍과 알고리즘에 의해 설정된 매개 변수로 제한된다는 점에 유의해야 한다. AI 시스템은 인간의 인격과 관련된 행동과 유사한 행동을 보여주도록 설계될 수 있지만, 실제로 진정한 의미의 인격을 가지고 있지는 않다.

Q. 인간다운 행동을 모방하도록 고도로 설계 된다면, 그것은 진정한 인격과 다를 바가 없는 것이 아닐까?

A. AI 시스템이 인간다운 행동을 모방하도록 설계됐다면 마치 인격을 가진 것처럼 보일 수 있지만, 인간이 인격을 갖고 있다는 점에서 진정한 인격은 아니다. AI 시스템은 프로그래밍과 알고리즘에 의해 제한되며 의식, 자기 인식 또는 주관적 경험을 위한 능력이 없다.

AI 시스템의 행동은 마치 인격을 가진 것처럼 보이도록 모델링할 수 있지만, 진정한 인간 인격의 깊이와 복잡성을 가지고 있지 않다. 인간의 성격은 유전학, 삶의 경험, 그리고 다른 요소들의 조합에 의해 형성되며, 시간이 지남에 따라 끊임없이 진화하고 변화하고 있다. 반면에 AI 시스템은 그들에게 프로그래밍된 행동만 보여줄 수 있고 인간의 인격이 하는 것과 같은 방식으로 성장하거나 변화하거나 진화할 능력이 없다.

그래서 인간과 같은 행동을 모방하도록 설계된 인공지능 시스템은 그것이 인격을 가진 것처럼 보일 수 있지만, 그것은 진정한 인간의 인격과 같지 않다. AI 기술의 윤리적, 사회적 함의를 생각할 때, 인격을 닮은 AI 생성 행동과 진정한 인간의 인격을 구분하는 것은 중요하다.

쓰다보니 내용이 길어졌는데, Chat GPT와의 대화는 상당히 흥미롭고 재밌다.

심심이와 관련된 이야기도 했는데 포스팅이 너무 길어져, 다음에 포스팅하도록 하겠다.

생각보다 활용도가 높으니 한번 쯤 해보는 것도 추천한다.

 

Discord를 통해 만든 AI 그림