๐Ÿ—จ Gen AI ๋“ฑ์žฅ๊ณผ IT/Data/AI Governance Governance. ์šฐ๋ฆฌ ๋ง๋กœ ๊ด€๋ฆฌ/ํ†ต์ œ ์ฒด๊ณ„. ์ด๊ฑด ๋ญ˜ ํ•˜๊ฒ ๋‹ค๋Š” ๊ฑธ๊นŒ? ํ•œ๋งˆ๋””๋กœ ๊ทน ์ถ•์•ฝํ•˜๋ฉด '์ฑ…์ž„์†Œ์žฌ๋ฅผ ๋ช…ํ™•ํ•˜๊ฒŒ ํ•˜๊ฒ ๋‹ค' ์ด๋‹ค. ์กฐ์ง ๊ตฌ์กฐ, ์กฐ์ง๊ฐ„ ์—ญํ• , TOM(๋ชฉํ‘œ์šด์˜๋ชจ๋ธ_ํ”„๋กœ์„ธ์Šค), ์›์น™/์ •์ฑ…/์ง€์นจ ๋ฐ ํ•„์š”์ธ๋ ฅ ์‚ฐ์ •(FTE), ์ดํ–‰ ์ „๋žต ๋“ฑ์œผ๋กœ ์ •์˜๋˜์–ด ์šด์˜๋œ๋‹ค. ์ด๋ฅผ ์œ„ํ•ด Biz/IT/Data/AI ์ง๊ตฐ ๋‚ด์— ๋” ์ƒ์„ธํ•˜๊ฒŒ ์ง๋ฌด๋ฅผ ๋‚˜๋ˆ  ์ด๋ฅผ ์ •๋ฆฌํ•ด ๋‚˜๊ฐ€๋ฉฐ ํ•ด๋‹น ๊ธฐ์—…์˜ ์กฐ์ง๋ฌธํ™”๋ฅผ ๊ณ ๋ คํ•˜์—ฌ ์ดํ•ด์ถฉ๋Œ์„ ๊ฐ์•ˆํ•˜๋ฉฐ ์ •๋ฆฌํ–ˆ๋˜ ๊ธฐ์–ต์ด ๋‚œ๋‹ค. ๋ฐ์ดํ„ฐ ๊ฑฐ๋ฒ„๋„Œ์Šค๊ฐ€ ์ง€๋‚œ 3๋…„์ „๋ถ€ํ„ฐ ๋Œ€๊ธฐ์—… ์ค‘์‹ฌ์œผ๋กœ ์ •๋น„๊ฐ€ ํ™•์‚ฐ๋˜๊ณ  ์ด๋ฅผ ํ† ๋Œ€๋กœ MLOps๊ฐ€ ์ž๋ฆฌ์žกํžˆ๋Š” ์‹œ์ ์— AI ๊ฑฐ๋ฒ„๋„Œ์Šค๊ฐ€ ๋‚˜์˜ค๋ฉฐ ML ๊ธฐ์ค€ AI์œค๋ฆฌ ์ค€์ˆ˜, ํ‘œ๋ณธ์˜ Bias ์ตœ์†Œํ™” ๋“ฑ์˜ ์ •์ฑ…๊ณผ ํ”„๋กœ์„ธ์Šค ์ •์˜๊ฐ€ ๋˜๋˜๊ฒŒ ๋ถˆ๊ณผ 1๋…„ ์ „. ๋ฐ์ดํ„ฐ ๊ฑฐ๋ฒ„๋„Œ์Šค์˜ ํ•„์š”์„ฑ์ด ๊ฐ•์กฐ๋˜๋Š” ์ด์œ ๋Š” ํ‘œ์ค€/๊ตฌ์กฐ/ํ๋ฆ„/ํ’ˆ์งˆ/์นด๋‹ฌ๋กœ๊ทธ/์ž์‚ฐ/๋น„์ฆˆ๋ฉ”ํƒ€ ๊ด€๋ฆฌ ๋“ฑ ๋ฐ์ดํ„ฐ ๊ด€๋ฆฌ ๊ธฐ๋ณธ๊ธฐ๋ฅผ ๊ฐ–์ถฐ์„œ ๋” ๊ณ ๋„ํ™”๋œ ML ์•Œ๊ณ ๋ฆฌ์ฆ˜ ๋ฐ EBM(์ด๋ฒคํŠธ๊ธฐ๋ฐ˜๋งˆ์ผ€ํŒ…) ๋“ฑ์ด ๊ฐ€๋Šฅํ•œ ํ™˜๊ฒฝ์œผ๋กœ ๊ฐ€๊ธฐ ์œ„ํ•œ ๊ธฐ์ดˆ ์ฒด๋ ฅ ๋‹ค์ง€๊ธฐ์˜€๋‹ค. ์ด๋Ÿฐ ์ค€๋น„๋Š” ๋‚ด๊ฐ€ ์ปจ์„คํŒ… ์—…๊ณ„๋ฅผ ๋– ๋‚˜๊ธฐ ์ง์ „์ธ 23๋…„ ์ดˆ์—๋„ ์•„์ฃผ ํ™œ๋ฐœํ•˜๊ฒŒ ์ง„ํ–‰๋˜์—ˆ๊ณ  ํ˜„์žฌ๋„ ๋†’์€ ์šฐ์„ ์ˆœ์œ„๋กœ ์ง„ํ–‰ ์ค‘์ด๋‹ค. ํ•˜์ง€๋งŒ ์•ผ์†ํ•˜๊ฒŒ๋„ ๊ณผ๊ฑฐ์˜ ๊ด€๋ฆฌ ๋ถ€์‹ค์„ ๋งŒํšŒํ•  ์ˆ˜ ์žˆ๋Š” ๊ธฐ์ดˆ์ฒด๋ ฅ์ด ์ œ๋Œ€๋กœ ๋‹ค์ ธ ์ง€์ง€ ์•Š์€ ์‹œ์ ์— ๋„ˆ๋ฌด ํฐ ๋ณ€ํ™”๊ฐ€ ๋ชฐ๋ ค์™”๋‹ค. ๐Ÿš€ ์ƒ์„ฑํ˜• AI !!! ์•„์ฃผ ์„น์‹œํ•œ ์‹ ๊ธฐ์ˆ ์€ ๋„์ž…ํ•ด์•ผ๊ฒ ๊ณ , ์žฅ๊ธฐ์ „์œผ๋กœ ๊ฐ€์—ด์ฐจ๊ฒŒ ์น˜๊ณ  ๊ฐˆ ์ฒด๋ ฅ์€ ๋‹ค์ ธ์•ผ๊ฒ ๊ณ  ์šฐ์„ ์ˆœ์œ„ ๊ด€๋ฆฌ๊ฐ€ ์ฐธ ์–ด๋ ค์šด ํ˜„ ์‹œ์ ์ด๋‹ค. ์ฐธ๊ณ ๋กœ Data Scientist๋“ค์€ ์ตœ๊ทผ 2~3๋…„ ๋„ˆ๋ฌด ๊ณ ์ƒ์ด ๋งŽ์€ ๊ฒƒ ๊ฐ™๋‹ค. ๋ณดํŽธ์ ์œผ๋กœ ๊ณผ๊ฑฐ 2๋…„์น˜ ๋ฐ์ดํ„ฐ๋ฅผ ํ•™์Šตํ•˜์—ฌ ๋ฏธ๋ž˜๋ฅผ ์˜ˆ์ธก์„ ํ•˜๋Š” ๋ชจ๋ธ์„ ๋งŒ๋“œ๋Š”๋ฐ ํŽœ๋ฐ๋ฏน, ์—”๋ฐ๋ฏน, ์ƒ์„ฑAI ์ถœํ˜„ ๋“ฑ์œผ๋กœ ๊ณ ๊ฐ Behavior์˜ ์ผ๊ด€์„ฑ์ด ๊ณ„์† ๋ฐ”๋€Œ๊ณ  ์žˆ๋‹ค. ํ™”์‚ด์„ ์˜๋Š”๋ฐ ๊ณ„์† ๋ฌด๋น™ ํƒ€๊ฒŸ์ด๋‹ค. ๐Ÿ˜ฅ ์ƒ์„ฑํ˜• AI๋„ ์–ธ์  ๊ฐ€ ๋„๋ฆฌ ํผ์ ธ ๋‰ด๋…ธ๋ฉ€์ด ๋˜๋Š” ์‹œ๋Œ€๊ฐ€ ๋„๋ž˜ํ•˜๊ฒ ์ง€๋งŒ, ์ด๋•Œ ๊ณผ๊ฑฐ์˜ ํ˜„์ƒ์„ ์ œ๋Œ€๋กœ ํŒ๋‹จํ•˜๊ณ  ๋น ๋ฅด๊ฒŒ ์ƒˆ๋กœ์šด ์งˆ์„œ๋ฅผ ์žก์•„๊ฐ€๊ธฐ ์œ„ํ•ด์„œ๋Š” LLMOps์™€ ๊ฐ™์ด ์ƒ์„ฑํ˜• AI ์„œ๋น„์Šค๋ฅผ ๊ฐœ๋ฐœ-์šด์˜-๋ชจ๋‹ˆํ„ฐ๋ง-๊ฐœ์„  ๋“ฑ์˜ ์ฒด๊ณ„๊ฐ€ ํ•„์ˆ˜์ด๋‹ค. ๋งŽ์€ ๊ธฐ์—…๋“ค์ด ๋น ๋ฅธ ์„œ๋น„์Šค ์ ์šฉ์„ ์œ„ํ•ด '๋‹ฅ์น˜๊ณ  ๊ณต๊ฒฉ' ์ค‘์‹ฌ์˜ ์ƒ์„ฑํ˜• AI ๊ตฌ์ถ•์„ ํ•˜๊ณ  ์žˆ๋Š” ๊ฒƒ์œผ๋กœ ๋ณด์ด๋Š”๋ฐ, ๊ฐœ๋ฐœ/์šด์˜ ์ƒ์˜ ํ™œ๋™ ์ด๋ ฅ ๊ด€๋ฆฌ, ์„œ๋น„์Šค๋ณ„ ๊ถŒํ•œ ์ •์ฑ…, LLM ํ˜ธ์ถœ์— ๋Œ€ํ•œ ๋ชจ๋“  ์ด๋ ฅ ๊ด€๋ฆฌ, ๋งคํ˜ธ์ถœ๊ฑด๋งˆ๋‹ค ๊ฐ€์„ฑ๋น„(์†๋„/๋น„์šฉ)๋ชจ๋‹ˆํ„ฐ๋ง, ํ…Œ์ŠคํŠธ์ž๋™ํ™”๋ฅผ ํ†ตํ•œ ํ’ˆ์งˆ๊ด€๋ฆฌ ํ™œ๋™๊ณผ ๊ฐ™์€ ๊ด€๋ฆฌ๊ธฐ๋Šฅ๋„ ๋งค์šฐ ์ค‘์š”ํ•˜๋‹ค. ๋˜ํ•œ AI ๋ถ€์„œ๋‚ด ํ”„๋กฌํ”„ํŠธ์—”์ง€๋‹ˆ์–ด์˜ ์—ญํ• ์ด NO/LOW-CODE ๊ธฐ๋ฐ˜ ์„œ๋น„์Šค๋กœ ํ™•๋Œ€๋˜๋ฉด์„œ ์ ์ฐจ ํ˜„์—…(PO, ์„œ๋น„์Šค ๊ธฐํš) ์ชฝ์œผ๋กœ ์ด๋™ํ•ด ๊ฐ€๊ณ  ์žˆ๋‹ค. ์ฆ‰, ์‹ ๊ธฐ์ˆ ์ด ๋‚˜์™”์„ ๋•Œ ๋ฉ‹์ง„ ์ดˆ๊ธฐ ์ŠคํผํŠธ๋„ ์ข‹์ง€๋งŒ ๋’ท์‹ฌ์ด ๋”ธ๋ฆด์ˆ˜ ์žˆ์œผ๋‹ˆ, ์ œ๋Œ€๋กœ ๋œ ๊ด€๋ฆฌ๊ธฐ๋Šฅ์„ ๊ฐ–์ถ”๋ฉฐ ์ถ”์ง„ํ•˜๋Š” ๊ฒƒ์„ ๊ณ ๋ คํ•ด์•ผ ํ•œ๋‹ค. ์ด๋ฏธ ์„œ๋น„์Šค๋ฅผ ์šด์˜ ์ค‘์ธ ๊ธฐ์—…๋“ค์€ ์–ด๋– ํ•œ๊ฐ€? ์Šค์Šค๋กœ ๋งค๋‹ˆ์ง•ํ•˜๋ฉฐ ๊ฐœ์„ ์‹œํ‚ฌ์ˆ˜ ์žˆ๋Š” ๊ธฐ๋ฐ˜์„ ๊ฐ€์ง€๊ณ  ์žˆ๋Š”๊ฐ€? ์•„๋‹ˆ๋ฉด ์™ธ์ฃผ์‚ฌ์— ๋งค๋ฒˆ ์˜์กดํ•ด์•ผ ํ•˜๋Š”๊ฐ€? If you can't measure it, you can't manage it. Peter Drucker #WantedLaaS #LLMOPS #GENAI_NoCode_Monitoring_TestAutomation_LLMHUB

์ฝ˜ํ…์ธ ๋ฅผ ๋” ์ฝ๊ณ  ์‹ถ๋‹ค๋ฉด?
์›ํ‹ฐ๋“œ์— ๊ฐ€์ž…ํ•ด ์ฃผ์„ธ์š”.
๋กœ๊ทธ์ธ ํ›„ ๋ชจ๋“  ๊ธ€์„ ๋ณผ ์ˆ˜ ์žˆ์Šต๋‹ˆ๋‹ค.
ใƒป๋Œ“๊ธ€ 2