Microsoft Startup connection 2025, MSC

#Microsoft Startup connection 2025, MSC

 

#정우근

 

 

 

#1교시

#Fireside chat

#Github

#Thomas Dohmke

#Welcome to Fireside chat with Thomas Dohmke

 

 

#개발자를 우선시 한다.

#3000명, 법률, 재무 모든 곳에서 사용한다.

#Github copliot

#AI를 활용하여 copliot를 사용하여라. 훨씬 더 신속하게 할 수 있다.

#엔트로픽에서 개발한 툴, MCP sever, agent로 가지고 와서 변형 사용

#GenAI has different unit economics than tradtional SaaS, and we are seeing different pricing strategies for example subscription, credits, or pure usage-base...

 

#GitHub has embraced Agentic AI, for example with agent mode in VS Code. What new agentic experiences are in the pipeline?

 

#shower coding

#아디디어를 에이전트가 가지고 가서 실현

 

#어떤 조언을 해주실지?

#좋은 개발자라는 것은 장인 기술, 매일 매일 기술을 개발하는 것이 중요하다. 롤링스톤스 50년 매일 연습, 리허설, 좋은 개발자라는 것은 장인 기술을 연마하는 것이 중요하다.

#더불어 최신기술을 계속 업데이트를 하지 않으면 혁신가의 딜레마를 겪게 된다.

#스타트업은 작게 시작, 내 취향으로 차별화 할 수 있다. 사람들이 볼때 너무 좋다라는 느낌, 나의 취향이 반영되도록 해야 한다.

 

#새로 스타트업을 시작한다면?

#디벨로퍼 툴을 할 것 같다. 예전 부터 해 왔지만 개발자들의 입장에서 개발을 편하게 하는 것을 개발할 것이다.

#워크 플로우를 다시 살펴보고 개발자에게 도움이 되도록

 

 

 

 

#2교시

#GitHub Copilot

#Core Features

#손건 개발자

#개발자 협업을 위한 platform

#AI agent 기반이 들어갔다.  모든 것들이

 

#Copilot in DevOps Lifecycle

#Plan-Deveop-Review-CI/CD-Ops

#AI Autofix

 

#Github Copilot: how it works

플러그인으로 코파일럿으로 코드제안

 

#Copilot Chat

#Unit tests 생성, Code 설명, Code 버그 fix

 

#Code Completion

#코드 완성 기능, 커맨트를 코드로 변환, 반복적인 task 자동완성, 선택할 수 있는 여러 개 대안 코드 제안

 

#멀티 모델 지원

 

#VS Code 에서 copilot-Instruction.md

Copilot에게 코드 제안에 대한 규칙을 설정, 각각의 파일로 가이드를 줄 수 있다. LLM이 원하는 내가 원하는 스타일 대로 만들어 줄 수 있도록 할 수 있다.

 

#학습용으로 바로 코파이럿에게 물어보면서 사용, 예제 코드 복사 사용

#github.copilot.chat

#ask 모드

#edit 모드

#agent 모드

필요한 설치 부터 실행, 전체적으로 정리

 

#VS Code instructions 설정

#schema.sql

 

#Vision

그림파일을 첨부하여 질문하면 답을 준다.

 

#Next Edit suggentions

변경되는 내용을 기반으로 다음에 이어질 내용을 제안해줘하면 답을 준다.

 

#코드 리뷰

마우스 오른버튼

Pull Request에 대해 리뷰

 

#Copilot chat on Github.com

대화형 검색, 질의 응답 Issue, Pull Request...찾아보기

 

 

#Copilot Extensions

 

 

 

#점심후

#3교시

#스타트업 CEO 패널 토크

#AI의 최전선에 있는 스타트업 CEO들이 바라보는 가까운 미래

#업스테이지

#컬리

#갤럭시코퍼레이션

#퓨리오사에이아이

 

#업스테이지

#김승일 부사장

GPT 시대가 오고, 빅 컴퍼니가 모두 다 커버할 수 없어 보인다.

하드웨어적으로 적은 금액으로 사용할 수 있기를 바란다.  

매출, 제품화에 집중하고 있다.

4~5년차, 되집어 보면? 회사마다 달성하고자 하는 원칙...변화가 있지만 그 원칙을 지켜가자 사업은 높은 확률의 재현, 확률게임, 이제는 확률이 예측가능하는 것이 점점 줄어드는것 같다. OCR, 추천로 시작, Chat GPT 모멘트가 오고 나서 피벗팅, 매몰비용, 변화가 필요

 

#갤럭시코퍼레이션

#최용호 CHO (Chief Happiness Officer, 최고행복책임자)

예능, G 드레곤 소속사, 매니징, 1년에 400편 정도 제작

팬과 아티스트 만남을 편하게 하려면?

2400만 팔로워와 어떻게?

김자옥, 송해 돌아가신 아티스트  vs. 살아있는 아티스트 

AI 사용이 시공간을 초월함을 아티스트가 활용

뮤직비디오를 AI와 접목, 크리에이티브를 얼마만큼 부여하는가

 

피벗,

진화 vs. 변태,

22살 창업, 프랑스 오프라인 빅뱅잡지, 2018년 망했다. K-culture, 빚 100억, 연대보증 35억, 재창업 불가능,

재창업, 아들 우주 탄생, 우주, 갤럭시 코퍼레이션,

부케, 멀티캐릭터, 마미손, 부케 어워드 계속 망함

실패를 인정하기 싫어서, 예능은 없는가?

예능 피지컬 100, 시즌1, 시즌2

5000억 밸류, 상장준비

피벗이 필요한 용기

진화 vs. 변태, 나비로 가고 싶었다.

 

#컬리

#김슬아 대표

좋은상품을 좋은사람들이게 준다.

AI를 활용하면?

전반적인 고객서비스 과제 발굴, 교육에 신경을 많이 씀

디지털 트랜스포메이션

AI 기술이 현업 담당자가 비지니스에서 사용하는 것이 중요한것 같다.

 

2~3년 예측해본다면?

2~3년 전에 예측하지 못했던것들이 현실이 되었다. 이미 해결됨.

현업에서 아직 해결되지 못한 문제점이 있다.

온 디멘드 생산, 소비자가 원하는 것을 바로 만들어서 주면 되지 않을까?!

모든 고객에게 맞는 서비스가 무엇인지는 모르겠지만, 필요한것 같다.

 

개인적 생각,

1.저의 문제를 꼭 해결하고 싶었다. 나에게 중요한 문제를 해결하려고 하다보니, 잘 버틸수 있었더라.

2.너무 큰 실패, 큰 의사 결정, 작은 스텝을 쌓아올려서 다음 스텝으로 갈 수 있는가...작은 복권을 계속 긁을수 있도록...

 

#요약하자만, 미래를 저희도 알 수 없다. 대신 변화하고 변태하여 적응해 나갑시다.

 

 

 

#4교시

#생성형 AI 사용기와 유용한 팁들 1부

 

#Supercoder AI

#Interviewer

#Mansi, Product Owner

#해외 인재 개발자 채용 반 자동화

#후보자 interview summary

#Azure AI Search, Speech

 

 

 

#밀리의 서재

AI 서비스 본부 방은혜

독서 트랜드, AI 시대의 독서란?

 

밀리 AI, 서비스의 활용,

AI 스마트 키워드

AI TTS, 숨소리도 나온다.

페르소나 챗봇

 

그래서 독서가 변했지...?

라스트 마일

사람은 안 변하는데...

 

20만권의 책

대화형 AI 독서 메이트

밀리의 서재 AI 독파민

Azure AI Foundry

AOA 서버리스 API

 

 

#두나무

#거대 모델에서 최적 모델로, LLM 활용사례

#업비트, 증권 플러스, 증권플러스 비상장

#우디

#대화형 증권 정보 검색, 뉴스 공시 기반 검색

#Knowledge Distillation

#커뮤니티 홍보글, 욕설 탐지

#뉴스 중요도 순 정렬

 

 

#뉴지스탁

#문호준

#Newsystock with Azure

#젠포트, 2017년

#누구나 쉽게 자신만의 투자전략을 만들 수 있는 다이렉트 인덱싱+AI 기업

#금융지주사, DGB

#뉴지스탁이 직면한 문제

#국내 퀀트 사장 규모, 전문화된 퀸트 리서치 툴 부재, 리소스 부재

#Founders Hub, Azure

 

 

 

#한국신용데이터

#정창환, Ray

#생성형AI를 실험, 확인, 하여 적용

#캐시노트

#AI 비서, 고객센터, 내부생산성 슬랙봇, AI 쳇봇, AI 비서

#RAG

#Retrieval-augmented generation

#토큰사용량, 줄이는 노력

#마치 직원처럼, 캐시니라 불리는 자체 쳇봇

#생성형 AI 에 대한 인식: 말을 약간 알아듣는 기계? 정도로 볼 것인가? 어떻게 볼것인가?

 

 

#검색증강생성

RAG(Retrieval-Augmented Generation)는 대규모 언어 모델(LLM)의 출력을 최적화하여 응답을 생성하기 전에 학습 데이터 소스 외부의 신뢰할 수 있는 지식 베이스를 참조하도록 하는 프로세스 기술이다. 쉽게 말하면, 검색증강생성(RAG)은 대규모 언어 모델(LLM)에서 질문에 대한 답변이나 텍스트를 생성하기 전에 광범위한 문서 집합에서 관련 정보를 검색하고, 이를 이용하여 응답을 생성하는 방법이라고 할 수 있다. 검색증강생성 기술은 Facebook AI Research(FAIR)에서 개발되었는데, FAIR의 연구자들이 2020년에 발표한 "Retrieval-Augmented Generation for Knowledge-Intensive NLP Tasks" 논문에서 처음 제안되었다. 이후 RAG 기술은 많은 자연어처리 연구 분야에서 많은 관심을 받고 있다.

 

대규모 언어 모델(LLM)은 지능형 챗봇 및 기타 자연어 처리 애플리케이션을 지원하는 핵심 인공 지능 기술이다. 대규모 언어 모델(LLM)은 방대한 양의 텍스트 데이터를 사전 학습하여 강력한 언어 이해 및 생성 능력을 갖추고 있지만, 가능한 답변이 없으면 허위로 정보를 제공하거나[1], 오래 되거나 일반적인 정보를 제공하기도 하고, 복잡한 맥락을 이해하는데 어려움을 겪기도 하 등의 문제점이 있다. 검색증강생성(RAG)는 이러한 대규모 언어 모델(LLM)이 가진 사실 관계 오류 가능성이나 맥락 이해의 한계를 개선하는 것에 초점을 맞추고 제안된 기술이다. 구체적으로 더 RAG의 등장 배경과 필요성을 살펴보면 다음과 같다.-나무위키

 

 

#5교시

#생성형 AI 사용기와 유용한 팁들 2부

 

#콴다

#QANDA

#매스프레소

#이용재 대표

#GenAI Super App for Education

#Providing the most effective education to eveyone through technology

#Personalized Learning

#Target curriculum

#Student

#Free, Self-study, Guided Learning

#Chain of thought

#reasoning model, o1

#개별 진도 학원 많다

#커리큘럼 고등학교 1학년 하나의 팀, 1년 준비

#70개국, 70년, 해결 가능한가?

#맞춤 학습지 필요

#Making AI-driven education accessible to every student, everywhere

 

 

#라이너

#김진우 대표

#Liner

#Azure로 만든 세계에서 가장 정확한 AI 검색

#Liner AI 검색 서비스

#세계에서 가장 정확하다.

#the top 50 gen ai web products

#형광펜 유틸리티

#개인화된 컨텐츠 추천

#The personalized

#2022년 12월 After Gen AI

#문서에서 내용을 찾는 방식에서 답을 바로 주는 방식으로 바뀜

#정보 탐색이 정확하지 않다. AI는

#정보 탐색을 위한 AI = knowledge * intelligence 

#고도화

#더 똑똑하게, 챗 GPT 올라탄 AI 스타트업

#내부 Search LLM 똑똑하다 가장 현재

#Bing Search * Liner Ranker

#경쟁이 심화되는 시장, 저가 가격 + 광고

#Organic + Search Ads, Video Ads

 

 

 

#로앤컴퍼니

#법률AI 연구소장

#안기순

#AI 법률비서

#SuperLawyer의 출시와 성과

#리걸테크 리딩 기업

#로톡

#법률가의 서면 작성, 요약 서비스

#가입시 변호사는 인증

#만족도 81.3%

#92.5% 업무시간 절약

#전문분야에서의 생성형 AI 서비스의 개발

#법률 리서치

#법률 데이터

#법률 서적 인용

#박영사 1000권 교과서 및 실무서 답변에 활용 및 인용

#인용 적절성 평가

#문서기반 대화, 전자문서 소송

#사건기반 대화

#Cost Management

#LLM은 항상 잘 작동하지 않는다. Failover 필수. 최적의 LLM 조합 필요

#복수의 LLM 사용 설정

#복수의 플로우 Flow 사용설정

#프롬프트를 계속 닦고 조이고 기름치자

 

 

#스캐터랩

#김대진

#생성형 AI 흐름 속 제타가 정의하는 새로운 엔터테인먼트

#국내 최고의 일상 대화 AI 스타트업

#이루다, 쳇봇

#zeta

#상상이 현실이 되는 AI 채팅

#하루 평균 사용 시간 2.5시간

#인터랙티브와 내러티브의 통합

#게임보다는 더욱 스토리에 가깝고

#한국인 보다 한국인 같은 LLM

#자연스러운 한국어, 흥미로운 스토리 전개, 매력적인 캐릭터, 엔터테인먼트에 적합

#계속 되는 모니터링, 자체 어브징 탐지 모델

 

 

#6교시, 마지막

#프롬프트 엔지니어링 실전 유즈케이스

#프롬프트 엔지니어링으로 어디까지 가능한가

#국내1호 프롬프트 엔지니어

#강수진 대표

#Prompt Engineering and Why is it important?

#티타임 홍제의 기자

#The conversation with AI

#모델의 구조보다, 어떤 내용을 넣어서 어떻게 만드는 것이 좋은가?

#Industry - Q&A - Soltution

#모건스탠리, 프롬프트로 사기 적발

#마케팅, 콜라콜라에서 사용

#교육, 듀오링고, 개인화된 학습

 

#Sharing my experience

#제가 경험한 프롬프트 엔지니어링은?

#한계는?

#이거까지 가능해?

 

#Clarity

#명확성이 떨어진다.

#사용자의 의도와 세그먼테이션

#언어를 전공

#사용자 의도분석

#Text language, context, Context of culture

#Turn, Action, Structure, Stance

 

#엔트로픽에서 프롬프트 제너레이터

#답변이 좋을것 같다 vs. 안좋다?

#프롬프트 질문 토큰수 대비 답변

#의도 분석을 좀 더 자세히

#자연어와 컴퓨터 언어의 중간단계는 프롬프는 아닌가?

 

#Context

#문맥

#기업들의 자동화 리포트 프롬프트 만들고 있다. 주제만 주면 저절로 만들어지도록 요청.

#Chaing of thought

#공공기관 문서

#표안에 표안의 표

#Prompting for the Document

#구조는? 다르다.

#copilot, 웃는 친절한 이모지 하나로 결과가 달라진다.

#발산은 잘하고 수렴은 잘 못한다.

#위계질서, 구조

#voice 챗봇

#짧게 말하는 것은 잘 못하고...

 

 

#Consistency

#일관성이 너무 떨어진다.

#턴 청킹으로 나누자

#탑픽 중심의 턴 위주로 나누자

#대화형 챗봇, 탠션유지

#Prompt Planning

#Multi-Agent Systems

#자동화가 가능?

#Sorting Agent, Data Pre-processing, Data Analysis, Data Visualization

#Function Calling

#Analysis_Tools

 

 

#Efficiency

#Reducing Costs: Prompt Optimization

#LLM Performance : Human in the Loop using LangGraph

#장소에 해당하는 이름 추출해줘?

#Semantic-Condensation

#단어 하나만 바꿔도 결과가 바뀐다.

#리즈닝, 추론? 논증모델이라고 부르는것이 나을듯

#LLM 수동적이다. 시키지 않으면 안함

#깃헙, 랭그래프

 

#마지막

#Sturctured Prompting

#Chain-of-Thought

#Multimodal Prompting

#Task-Specific Prompting

 

#Prompt Engineering is an Empirical Science 

 

 

#질문? 한글 프로프팅은?

#네이버 클로바, 비법은 한자를 많이 사용하였다.

#습니다. 공손한 언어를 사용하면 더 잘 나오더라.

 

#효율성?

#제로샷 쓰면 긍정, 부정 같이 만들어서 넣어준다.

 

 

 

 

#결론, 앞으로도 많이 사용