4월 21일 AI관련 동향- 미국 내 광대역 격차, 인종에 따른 차별 존재 등

AI 기술은 끊임없이 발전하며 우리의 일상과 산업 전반에 깊숙이 침투하고 있습니다. 최근 AI 분야에서는 다양한 연구와 실험이 진행되고 있으며, 새로운 기술들이 속속 등장하고 있습니다. 이번 뉴스레터에서는 AI 관련 최신 동향을 살펴보고, 주목할 만한 정보들을 공유하고자 합니다.

4월 21일 AI관련 동향- 미국 내 광대역 격차, 인종에 따른 차별 존재

출처: cnet

주요 내용:

• 미국 내 광대역 인터넷 접근성에 인종별 격차가 뚜렷하며, 흑인, 히스패닉, 원주민의 접속률이 백인보다 낮습니다.
• 소득 격차와 디지털 레드라이닝(특정 지역에 대한 차별적 투자 제한)이 주요 원인으로 작용합니다.
• 디지털 레드라이닝은 과거 차별받던 지역에 인터넷 속도가 느리거나 서비스가 제한되는 현상으로 나타납니다.
• 저렴한 인터넷 요금제(ACP) 종료로 저소득층의 접근성이 다시 낮아질 우려가 있습니다.
• 디지털 문해력 교육 및 장비 지원을 통해 소외 계층에게 필요한 디지털 기술 교육이 필요합니다.

태그: 디지털격차, 광대역, 인종차별, 디지털레드라이닝, 인터넷접근성

DOS에서 Llama 2 실행 성공

출처: hackaday

주요 내용:

• Yeo Kheng Meng이 DOS에서 Llama 2 LLM을 실행하는 데 성공했습니다.
• i386 아키텍처 및 DOS 6.22 환경에 Llama2.c 라이브러리를 포팅했습니다.
• 486에서도 작은 모델 실행이 가능하며, Pentium M은 더 큰 모델도 실행 가능합니다.
• 16비트 환경(286, 68000)에서도 LLM 실행이 다음 목표입니다.
• DOS, 레트로 컴퓨터에서 LLM 실행 가능성을 제시했습니다.

태그: Llama2, DOS, i386, 레트로컴퓨팅, LLM, AI, Llama2.c, Windows 98, 486, Pentium

PhyloLM: LLM 계통 발생 및 성능 예측

출처: arxiv

주요 내용:

• PhyloLM은 LLM의 관계 및 성능 특성 예측을 위해 계통 발생 알고리즘을 적용하는 방법론입니다.
• LLM 출력 유사성을 기반으로 계통 발생 거리 메트릭을 계산합니다.
• 111개의 오픈소스 모델과 45개의 폐쇄 모델 간의 관계를 캡처하는 덴드로그램을 구축합니다.
• 이 메트릭은 표준 벤치마크에서 성능을 예측하여 기능적 유효성을 입증합니다.
• 투명한 훈련 정보가 없는 경우에도 LLM 개발, 관계 및 기능을 평가하는 도구를 제공합니다.

태그: LLM, 계통 발생, 성능 예측, 덴드로그램, 기계 학습, 자연어 처리, PhyloLM, 모델 관계, 벤치마크, 평가 도구

Hands-On Large Language Models 코드 저장소

출처: github

주요 내용:

• O'Reilly 출판 "Hands-On Large Language Models" 책의 공식 코드 저장소입니다.
• 책의 예제 코드, 설치 가이드, 추가 자료를 제공합니다.
• 챕터별 노트북, 환경 설정 파일이 포함되어 있습니다.
• LLM 개념, 텍스트 분류, 생성, RAG, 멀티모달 모델 등을 다룹니다.
• Google Colab에서 실행을 권장합니다.

태그: LLM, Large Language Models, O'Reilly, 코드 저장소, 딥러닝, 자연어 처리, 머신러닝, 텍스트 생성, RAG, Fine-tuning

Emacs와 LLM을 이용한 도서 추적 실험

출처: 개인 블로그

주요 내용:

• Emacs에서 LLM(Perplexity AI)을 활용해 작가의 신간 정보를 찾는 실험이 진행되었습니다.
• Perplexity API를 통해 작가별 도서 목록과 종류를 얻었습니다.
• LLM의 답변이 일관성이 없지만, 신간 추적에 유용할 가능성을 확인했습니다.
• 작가 목록 관리 및 신간 검색 기능 추가 후 실제 도서 구매로 이어졌습니다.
• 웹 검색 기반 LLM의 한계 극복을 위해 개별 작가 검색 후 결과 통합을 고려하고 있습니다.

태그: Emacs, LLM, Perplexity AI, 도서 추적, 신간 검색, API, ISBNdb, 자동화, 프롬프트 엔지니어링

FramePack: 개인용 GPU 기반 고속 비디오 생성 기술

출처: FramePack

주요 내용:

• FramePack은 6GB VRAM만으로 고품질 비디오 생성을 지원하는 혁신적인 비디오 확산 기술입니다.
• 프레임 컨텍스트 패킹을 통해 소비자용 GPU에서 빠른 비디오 생성을 가능하게 합니다.
• 클라우드 처리 없이 로컬에서 비디오 생성이 가능하며, Anti-Drifting 기술로 일관성을 유지합니다.
• 프레임당 약 1.5초의 생성 속도를 제공하며, 오픈 소스 액세스를 지원합니다.
• 150,000명 이상의 사용자가 사용하고 있으며, 98.5%의 비디오 품질 만족도를 보입니다.

태그: FramePack, 비디오 생성, AI 비디오, GPU, 프레임 컨텍스트 패킹, 오픈소스, 비디오 확산, 로컬 실행, Anti-Drifting, 딥러닝

객체 스토리지 활용 팁 및 주의사항

출처: spiraldb

주요 내용:

• 객체 스토리지는 대용량 데이터 저장에 유용하지만, 시스템 구축 시 Tail Latency 문제가 발생할 수 있습니다.
• Latency 개선을 위해 Hedging, Caching, Horizontal Scaling 전략을 활용 가능합니다.
• 클라우드 인프라의 장점을 활용하여 각 서비스에 최적화된 하드웨어 구성이 중요합니다.
• 객체 스토리지는 일반적인 디스크와 다른 특성을 가지므로, 이를 고려한 설계가 필요합니다.

태그: 객체스토리지, Latency, Hedging, Caching, HorizontalScaling, 클라우드, 분산시스템, 성능개선, 데이터베이스, S3

이전일자 뉴스 바로가기

전체목록 바로가기