๐จ Gen AI ๋ฑ์ฅ๊ณผ IT/Data/AI Governance Governance. ์ฐ๋ฆฌ ๋ง๋ก ๊ด๋ฆฌ/ํต์ ์ฒด๊ณ. ์ด๊ฑด ๋ญ ํ๊ฒ ๋ค๋ ๊ฑธ๊น? ํ๋ง๋๋ก ๊ทน ์ถ์ฝํ๋ฉด '์ฑ ์์์ฌ๋ฅผ ๋ช ํํ๊ฒ ํ๊ฒ ๋ค' ์ด๋ค. ์กฐ์ง ๊ตฌ์กฐ, ์กฐ์ง๊ฐ ์ญํ , TOM(๋ชฉํ์ด์๋ชจ๋ธ_ํ๋ก์ธ์ค), ์์น/์ ์ฑ /์ง์นจ ๋ฐ ํ์์ธ๋ ฅ ์ฐ์ (FTE), ์ดํ ์ ๋ต ๋ฑ์ผ๋ก ์ ์๋์ด ์ด์๋๋ค. ์ด๋ฅผ ์ํด Biz/IT/Data/AI ์ง๊ตฐ ๋ด์ ๋ ์์ธํ๊ฒ ์ง๋ฌด๋ฅผ ๋๋ ์ด๋ฅผ ์ ๋ฆฌํด ๋๊ฐ๋ฉฐ ํด๋น ๊ธฐ์ ์ ์กฐ์ง๋ฌธํ๋ฅผ ๊ณ ๋ คํ์ฌ ์ดํด์ถฉ๋์ ๊ฐ์ํ๋ฉฐ ์ ๋ฆฌํ๋ ๊ธฐ์ต์ด ๋๋ค. ๋ฐ์ดํฐ ๊ฑฐ๋ฒ๋์ค๊ฐ ์ง๋ 3๋ ์ ๋ถํฐ ๋๊ธฐ์ ์ค์ฌ์ผ๋ก ์ ๋น๊ฐ ํ์ฐ๋๊ณ ์ด๋ฅผ ํ ๋๋ก MLOps๊ฐ ์๋ฆฌ์กํ๋ ์์ ์ AI ๊ฑฐ๋ฒ๋์ค๊ฐ ๋์ค๋ฉฐ ML ๊ธฐ์ค AI์ค๋ฆฌ ์ค์, ํ๋ณธ์ Bias ์ต์ํ ๋ฑ์ ์ ์ฑ ๊ณผ ํ๋ก์ธ์ค ์ ์๊ฐ ๋๋๊ฒ ๋ถ๊ณผ 1๋ ์ . ๋ฐ์ดํฐ ๊ฑฐ๋ฒ๋์ค์ ํ์์ฑ์ด ๊ฐ์กฐ๋๋ ์ด์ ๋ ํ์ค/๊ตฌ์กฐ/ํ๋ฆ/ํ์ง/์นด๋ฌ๋ก๊ทธ/์์ฐ/๋น์ฆ๋ฉํ ๊ด๋ฆฌ ๋ฑ ๋ฐ์ดํฐ ๊ด๋ฆฌ ๊ธฐ๋ณธ๊ธฐ๋ฅผ ๊ฐ์ถฐ์ ๋ ๊ณ ๋ํ๋ ML ์๊ณ ๋ฆฌ์ฆ ๋ฐ EBM(์ด๋ฒคํธ๊ธฐ๋ฐ๋ง์ผํ ) ๋ฑ์ด ๊ฐ๋ฅํ ํ๊ฒฝ์ผ๋ก ๊ฐ๊ธฐ ์ํ ๊ธฐ์ด ์ฒด๋ ฅ ๋ค์ง๊ธฐ์๋ค. ์ด๋ฐ ์ค๋น๋ ๋ด๊ฐ ์ปจ์คํ ์ ๊ณ๋ฅผ ๋ ๋๊ธฐ ์ง์ ์ธ 23๋ ์ด์๋ ์์ฃผ ํ๋ฐํ๊ฒ ์งํ๋์๊ณ ํ์ฌ๋ ๋์ ์ฐ์ ์์๋ก ์งํ ์ค์ด๋ค. ํ์ง๋ง ์ผ์ํ๊ฒ๋ ๊ณผ๊ฑฐ์ ๊ด๋ฆฌ ๋ถ์ค์ ๋งํํ ์ ์๋ ๊ธฐ์ด์ฒด๋ ฅ์ด ์ ๋๋ก ๋ค์ ธ ์ง์ง ์์ ์์ ์ ๋๋ฌด ํฐ ๋ณํ๊ฐ ๋ชฐ๋ ค์๋ค. ๐ ์์ฑํ AI !!! ์์ฃผ ์น์ํ ์ ๊ธฐ์ ์ ๋์ ํด์ผ๊ฒ ๊ณ , ์ฅ๊ธฐ์ ์ผ๋ก ๊ฐ์ด์ฐจ๊ฒ ์น๊ณ ๊ฐ ์ฒด๋ ฅ์ ๋ค์ ธ์ผ๊ฒ ๊ณ ์ฐ์ ์์ ๊ด๋ฆฌ๊ฐ ์ฐธ ์ด๋ ค์ด ํ ์์ ์ด๋ค. ์ฐธ๊ณ ๋ก Data Scientist๋ค์ ์ต๊ทผ 2~3๋ ๋๋ฌด ๊ณ ์์ด ๋ง์ ๊ฒ ๊ฐ๋ค. ๋ณดํธ์ ์ผ๋ก ๊ณผ๊ฑฐ 2๋ ์น ๋ฐ์ดํฐ๋ฅผ ํ์ตํ์ฌ ๋ฏธ๋๋ฅผ ์์ธก์ ํ๋ ๋ชจ๋ธ์ ๋ง๋๋๋ฐ ํ๋ฐ๋ฏน, ์๋ฐ๋ฏน, ์์ฑAI ์ถํ ๋ฑ์ผ๋ก ๊ณ ๊ฐ Behavior์ ์ผ๊ด์ฑ์ด ๊ณ์ ๋ฐ๋๊ณ ์๋ค. ํ์ด์ ์๋๋ฐ ๊ณ์ ๋ฌด๋น ํ๊ฒ์ด๋ค. ๐ฅ ์์ฑํ AI๋ ์ธ์ ๊ฐ ๋๋ฆฌ ํผ์ ธ ๋ด๋ ธ๋ฉ์ด ๋๋ ์๋๊ฐ ๋๋ํ๊ฒ ์ง๋ง, ์ด๋ ๊ณผ๊ฑฐ์ ํ์์ ์ ๋๋ก ํ๋จํ๊ณ ๋น ๋ฅด๊ฒ ์๋ก์ด ์ง์๋ฅผ ์ก์๊ฐ๊ธฐ ์ํด์๋ LLMOps์ ๊ฐ์ด ์์ฑํ AI ์๋น์ค๋ฅผ ๊ฐ๋ฐ-์ด์-๋ชจ๋ํฐ๋ง-๊ฐ์ ๋ฑ์ ์ฒด๊ณ๊ฐ ํ์์ด๋ค. ๋ง์ ๊ธฐ์ ๋ค์ด ๋น ๋ฅธ ์๋น์ค ์ ์ฉ์ ์ํด '๋ฅ์น๊ณ ๊ณต๊ฒฉ' ์ค์ฌ์ ์์ฑํ AI ๊ตฌ์ถ์ ํ๊ณ ์๋ ๊ฒ์ผ๋ก ๋ณด์ด๋๋ฐ, ๊ฐ๋ฐ/์ด์ ์์ ํ๋ ์ด๋ ฅ ๊ด๋ฆฌ, ์๋น์ค๋ณ ๊ถํ ์ ์ฑ , LLM ํธ์ถ์ ๋ํ ๋ชจ๋ ์ด๋ ฅ ๊ด๋ฆฌ, ๋งคํธ์ถ๊ฑด๋ง๋ค ๊ฐ์ฑ๋น(์๋/๋น์ฉ)๋ชจ๋ํฐ๋ง, ํ ์คํธ์๋ํ๋ฅผ ํตํ ํ์ง๊ด๋ฆฌ ํ๋๊ณผ ๊ฐ์ ๊ด๋ฆฌ๊ธฐ๋ฅ๋ ๋งค์ฐ ์ค์ํ๋ค. ๋ํ AI ๋ถ์๋ด ํ๋กฌํํธ์์ง๋์ด์ ์ญํ ์ด NO/LOW-CODE ๊ธฐ๋ฐ ์๋น์ค๋ก ํ๋๋๋ฉด์ ์ ์ฐจ ํ์ (PO, ์๋น์ค ๊ธฐํ) ์ชฝ์ผ๋ก ์ด๋ํด ๊ฐ๊ณ ์๋ค. ์ฆ, ์ ๊ธฐ์ ์ด ๋์์ ๋ ๋ฉ์ง ์ด๊ธฐ ์คํผํธ๋ ์ข์ง๋ง ๋ท์ฌ์ด ๋ธ๋ฆด์ ์์ผ๋, ์ ๋๋ก ๋ ๊ด๋ฆฌ๊ธฐ๋ฅ์ ๊ฐ์ถ๋ฉฐ ์ถ์งํ๋ ๊ฒ์ ๊ณ ๋ คํด์ผ ํ๋ค. ์ด๋ฏธ ์๋น์ค๋ฅผ ์ด์ ์ค์ธ ๊ธฐ์ ๋ค์ ์ด๋ ํ๊ฐ? ์ค์ค๋ก ๋งค๋์งํ๋ฉฐ ๊ฐ์ ์ํฌ์ ์๋ ๊ธฐ๋ฐ์ ๊ฐ์ง๊ณ ์๋๊ฐ? ์๋๋ฉด ์ธ์ฃผ์ฌ์ ๋งค๋ฒ ์์กดํด์ผ ํ๋๊ฐ? If you can't measure it, you can't manage it. Peter Drucker #WantedLaaS #LLMOPS #GENAI_NoCode_Monitoring_TestAutomation_LLMHUB
๋ก๊ทธ์ธ ํ ๋ชจ๋ ๊ธ์ ๋ณผ ์ ์์ต๋๋ค.