프로페서 H의 메디톡

AI의 의학도전 (20)-데이터의 연금술: AI는 어떻게 고품질 합성데이터를 만들어내는가

LLM 기반 Synthetic Data 연구https://arxiv.org/html/2406.15126v1 On LLMs-Driven Synthetic Data Generation, Curation, and Evaluation: A SurveyOn LLMs-Driven Synthetic Data Generation, Curation, and Evaluation: A Survey Lin Long1, Rui Wang1, Ruixuan Xiao1 Junbo Zhao1, Xiao Ding2, Gang Chen1, Haobo Wang1 1Zhejiang University, China  2Harbin Institute of Technology, China Correspondence: wanghaobarxiv.or..

눈에 띄는 AI 에이전트 시리즈: BabyAGI, PrivateGPT, GPT Researcher

BabyAGI  : 인공지능 기반 작업관리 시스템 GitHub - yoheinakajima/babyagiContribute to yoheinakajima/babyagi development by creating an account on GitHub.github.com A simple framework for managing tasks using AI  BabyAGI는 인공지능을 활용한 작업 관리 시스템입니다. 이 프레임워크는 OpenAI의 언어 모델과 Pinecone의 벡터 데이터베이스를 결합하여 자동으로 작업을 생성, 우선순위 지정, 실행하는 능력을 갖추고 있습니다[1][2].## 주요 특징**자율적 문제 해결**: BabyAGI는 복잡한 목표를 작은 하위 작업으로 분해하여 효율적으로 문제를 해결합니다..

안녕하세요, 인공지능의 성능이 급속히 향상되면서 연구 설계부터 논문 리뷰까지 전 영역에 활용되고 있습니다. 이에 따라 저널마다 인공지능의 활용범위나 정책을 발표하고 있어 요약을 해보려고 합니다.  다음은 네이처의 정책요약입니다.  https://www.nature.com/nature-portfolio/editorial-policies/ai  Springer Nature의 AI 정책 요약Springer Nature는 인공지능(AI)의 발전과 관련된 정책을 지속적으로 검토 및 업데이트하고 있으며, 현재 다음과 같은 가이드라인을 제공한다.1. AI 저작권 및 LLM 사용AI 저작권 제한: 현재 Large Language Models (LLMs, 예: ChatGPT)는 저자 자격을 충족하지 못한다.저작권 및 책..

안녕하세요,  이번 시리즈의 글들은 LLM의 동작들에 대해 궁금한 점들을 LLM들과 문답으로 풀어가는 과정을 기록하고자 합니다. 비록 완전히 정확하지는 않겠지만 일반인들이 이해하는 수준에서는 도움이 되지 않을까 생각합니다. 되도록 hallucination이 발생하지 않도록 주의를 기울여 작성해보겠습니다.  transformer가 무엇인지 궁금해서 알아보던 과정에 아래와 같은 궁금한 점이 생겼습니다. 최신 초대형 언어 모델인 Claude 3.5 Sonnet은 어떻게 200,000 토큰이라는 방대한 컨텍스트 윈도우를 효율적으로 처리할 수 있을까? 특히 기존 Transformer 아키텍처의 제한사항을 어떻게 극복하였나? 또한 추가적으로 이어서 생기는 저의 궁금함들은 다음과 같습니다.  계산 효율성"200K ×..

이미지 분석과 ChatGPT 4.0, Claude 3.5 Sonnet: 최신 트렌드와 접근법이미지 분석 기술은 빠르게 진화하고 있으며, 최근 몇 년 동안 트랜스포머 모델을 활용한 새로운 접근법이 주목받고 있습니다. 특히 ChatGPT 4.0과 Claude 3.5 Sonnet은 이미지 처리에서 전통적인 방법을 넘어서는 혁신적인 방식으로 주목받고 있습니다. 여기서는 이미지를 패치로 분할하고 임베딩을 생성하는 접근법이 최신 모델들에서 어떻게 활용되는지에 대해 간단히 살펴보겠습니다.1. 이미지 분석의 기본 개념: 패치 분할과 임베딩이미지를 분석할 때 흔히 사용되는 기법 중 하나는 이미지를 여러 개의 패치로 분할(segmentation)한 후 임베딩(embedding) 을 생성하는 것입니다. 이는 비전 트랜스포머..

1차 원고 작성: 2024.11.22참고문헌: https://onlinelibrary.wiley.com/doi/10.1111/bjh.19738 Exploring the role of Large Language Models in haematology: A focused review of applications, benefits and limitations. 대규모 언어 모델(LLMs)의 이점과 한계: 혈액학 분야에서의 활용일관성대규모 언어 모델의 일관성에 대한 평가는 연구마다 상이합니다.Kurstjens et al.은 ChatGPT가 동일한 답변을 80%의 확률로 선택해 일관성이 부족한 모델로 평가되었으나, GPT-4는 98.3%의 확률로 동일한 답변을 선택해 매우 일관성이 높은 모델로 평가되었습니다(27..

1차 원고 작성: 2024-11-21오늘은 "Assessing the medical reasoning skills of GPT-4 in complex ophthalmology cases"라는 논문에 대해 내용을 정리하고자 합니다. 이 연구는 GPT-4의 복잡한 안과 임상 사례에 대한 의료 추론 능력을 평가한 중요한 논문입니다.출처: JAMA Ophthalmology (2024)https://bjo.bmj.com/content/108/10/1398  Assessing the medical reasoning skills of GPT-4 in complex ophthalmology casesBackground/aims This study assesses the proficiency of Generative P..

대형 언어 모델(LLM)은 자연어 처리 분야에서 중요한 혁신을 이루었지만, 여전히 특정 도메인에서는 한계를 보이고 있습니다. 특히, 도메인별로 요구되는 세부적인 지식이나 전문성을 반영하지 못해 정확하지 않은 출력을 생성하거나, 신뢰성에 문제가 발생하는 경우가 있습니다. 이러한 한계를 극복하기 위한 한 가지 방법으로 도메인 특화 LLM을 개발하는 것이 주목받고 있습니다.일반 LLM: 한계를 해결하는 접근법LLM의 한계를 해결하는 한 가지 방법은 특정 도메인에 맞는 데이터로 모델을 **미세 조정(finetuning)**하는 것입니다. 미세 조정은 대형 언어 모델이 학습한 범용적인 지식 위에, 특정 분야에서 자주 등장하는 용어나 표현, 문맥 등을 이해할 수 있도록 추가 학습하는 과정을 말합니다. 이를 통해 관..

프롬프트 엔지니어링은 상대적으로 새로운 연구 분야로, LLM의 출력을 다양한 작업에서 최적화하기 위한 프롬프트(지시문)를 설계하고, 개선하며, 실행하는 과정을 의미한다. 이는 AI 시스템과 효과적으로 상호작용하여 그 이점을 극대화하는 기술이다.의료 전문가 및 전반적인 의료 분야에서 프롬프트 엔지니어링은 다음과 같은 역할을 할 수 있다: 의사 결정 지원: 의료 전문가는 프롬프트 엔지니어링을 통해 AI 시스템을 최적화하여 진단, 치료 선택, 위험 평가 등의 의사 결정 과정을 지원할 수 있다.행정 지원: 프롬프트를 활용하여 환자 일정 관리, 기록 유지, 청구서 발행 등 행정 업무를 원활하게 처리함으로써 효율성을 높일 수 있다.환자 참여: 프롬프트 엔지니어링을 통해 의료 제공자와 환자 간의 의사소통을 개선할 수..

1차 원고 작성: 2024-10-17 오늘은 "Health system-scale language models are all-purpose prediction engines"라는 논문에 대해 내용을 정리하고자 합니다. 이 연구는 대규모 언어 모델(LLM)을 활용하여 의료 시스템 전반에 걸친 예측 엔진으로서의 잠재력을 탐구한 중요한 논문입니다. 출처: Nature (2023) 619, 357–362. https://doi.org/10.1038/s41586-023-06160-y  의사들은 매일 시간에 쫓기는 중요한 결정을 내려야 합니다. 임상 예측 모델은 의사와 관리자들이 임상 및 운영 이벤트를 예측하여 결정을 내리는 데 도움을 줄 수 있습니다. 그러나 기존의 구조화된 데이터 기반 임상 예측 모델은 데이터 ..