[TIL] 최근의 IT AI 이슈 정리_금융LLM, 딥페이크 보호, 일론머스크 Grok1.5

대규모 언어 모델은 '2년 안에 금융 부문에 혁명을 일으킬 수 있다'?

앨런 튜링 연구소의 연구에 따르면 대규모 언어 모델(LLM)은 사기 탐지, 금융 인사이트 생성, 고객 서비스 자동화를 통해 금융 부문의 효율성과 안전성을 향상시킬 수 있는 잠재력을 가지고 있습니다. 연구진은 문헌 조사와 함께 주요 하이스트리트 및 투자 은행, 규제 기관, 보험사, 결제 서비스 제공업체, 정부 및 법률 전문가 43명을 대상으로 워크숍을 개최했습니다.

워크숍 참가자의 대다수(52%)는 회의록 관리부터 사이버 보안 및 규정 준수 인사이트에 이르기까지 정보 지향적 업무의 성과를 높이기 위해 이미 이 모델을 사용하고 있으며, 29%는 비판적 사고력을 높이기 위해, 나머지 16%는 복잡한 업무를 세분화하는 데 이 모델을 사용하고 있다고 답했습니다.

또한 금융 업계에서는 이미 대량의 텍스트를 신속하게 분석하여 의사 결정 프로세스를 간소화하고, 리스크를 프로파일링하며, 투자 리서치 및 백오피스 운영을 개선함으로써 생산성을 향상시키는 시스템을 구축하고 있습니다.

금융 부문에서 LLM의 미래에 대한 질문에 참가자들은 2년 이내에 투자 은행 및 벤처 캐피탈 전략 개발과 같은 서비스에 LLM이 통합될 것이라고 생각했습니다.

또한 LLM이 사람과 기계 간의 상호작용을 개선하기 위해 통합될 것으로 예상했는데, 예를 들어 받아쓰기 및 임베디드 AI 비서가 규정 검토와 같은 지식 집약적인 업무의 복잡성을 줄일 수 있을 것으로 생각했습니다.

 

 

AI가 생성한 딥페이크로부터 비즈니스를 보호하는 방법

 

최근 사이버 범죄자들은 다국적 기업의 임원이 등장하는 '딥페이크' 동영상을 이용해 홍콩에 거주하는 직원들에게 미화 2,560만 달러를 송금하도록 유도했습니다.  사이버 범죄자들은 딥페이크를 사용하는 '스피어 피싱' 공격으로 개인을 표적으로 삼기도 합니다. 일반적인 접근 방식은 음성 복제를 사용하여 전화 통화에서 누군가를 사칭하고 제3자 계정으로 자금을 이체하도록 요청하여 개인의 가족 및 친구를 속이는 것입니다. 작년에 맥아피에서 실시한 설문조사에 따르면 조사 대상자의 70%가 사람과 음성 복제품을 구별할 수 있다고 확신하지 못했으며, 전화를 건 가족이나 친구가 강도나 교통사고를 당했다고 주장하는 경우 조사 대상자의 거의 절반이 자금 요청에 응할 것이라고 답했습니다.

1. 직원들에게 AI를 이용한 사기와 더 일반적으로 새로운 AI 기능 및 그 위험성에 대해 지속적으로 교육하세요.

2. 딥페이크 위협을 포함하도록 피싱 가이드를 업그레이드하세요.

3. 로고, 광고 캐릭터, 광고 캠페인과 같은 회사 자산에 대한 딥페이크의 영향을 고려하세요.

 

 

 

출처: https://www.artificialintelligence-news.com/2024/04/03/how-to-safeguard-your-business-ai-generated-deepfakes/

How to safeguard your business from AI-generated deepfakes

 

Grok-1.5 - OpenAI의 ChatGPT와 Google의 Gemini AI를 따라잡기

 

엘론 머스크의 AI 챗봇인 Grok은 대규모 언어 모델(LLM) 분야에서 주요 경쟁자들을 따라잡으며 레벨을 높여가고 있습니다.

억만장자 기업가인 머스크가 OpenAI의 수익 창출 모델에 불만을 품고 지난 7월에 설립한 스타트업인 xAI는 목요일에 곧 출시될 Grok의 주요 기능을 공개했습니다: Grok-1.5.

이 최신 버전에는 인간의 언어 텍스트를 이해하고 생성하는 시스템인 LLM에 몇 가지 중요한 업그레이드가 이루어졌다고 회사 측은 설명합니다. 이번 발표는 Grok의 향상된 성능 지표에 초점을 맞추고 있는데, 이는 기존 챗봇에 대한 비꼬는 듯한 비꼬는 표현으로 Grok을 브랜드화했던 CEO와는 확연한 대조를 이룹니다.

 

이 회사는 이제 Grok의 코딩 및 수학 관련 작업 수행 능력이 더욱 정교해져 Google의 Gemini 모델과 OpenAI의 ChatGPT에서 볼 수 있는 결과에 더 가까워졌다고 선전합니다. 초등학교부터 고등학교까지의 문제 해결을 포함하는 두 가지 수학 벤치마크 중 하나인 수학 벤치마크에서 Grok-1.5는 50.6%의 정확도를 기록했다고 회사 측은 밝혔습니다. 이는 Grok-1의 23.9%보다 높은 점수입니다. 한편 제미니 프로 1.5는 58.5%, ChatGPT는 52.9%, 이달 초 출시한 앤트로픽의 클로드 3 오푸스는 61%를 기록해 다른 모든 AI 모델 중 가장 높은 점수를 받았습니다.

 

Grok-1.5는 수학뿐만 아니라 모델의 언어 능력도 향상되었습니다. xAI는 챗봇의 메모리 용량이 이전보다 최대 16배까지 증가하여 긴 문맥과 고급 추론을 더 잘 이해할 수 있게 될 것이라고 말했습니다.

분명한 것은 Grok은 거의 모든 기준에서 다른 모든 주요 AI 모델에 비해 여전히 뒤처져 있다는 것입니다. 그럼에도 불구하고 머스크는 곧 출시될 Grok-2가 "모든 지표에서 현재의 AI를 뛰어넘을 것"이라고 자랑하며 다음 모델을 훈련 중이라고 덧붙였습니다.

머스크가 2022년 10월 트위터로 인수한 X의 초기 테스터와 기존 Grok 사용자는 다음 주까지 1.5를 사용해 볼 수 있을 것이라고 머스크는 같은 사이트의 게시물에서 말했습니다.

 

 

출처: https://qz.com/grok-xai-elon-musk-chatbot-math-1851374105

Elon Musk's Grok AI is getting better at math