게시글
AI 보안에서의 취약점 유형AI 보안에서의 취약점 유형
OWASP에서는 지속적으로 AI 보안 문제와 관련해서 연구 중이다. OWASP에서 발표한 2025년 9차 보고서에 따르면, AI 관련 취약점의 증가가 키 토픽이었다. 유효한 AI 관련 발견 건수는 전년 대비 210% 증가했다. 특히 프롬프트 인젝션이 540% 증가했는데, 이는 전년 대비 270% 증가한 수치라고 한다.
뿐...
끊임없이 변화할 수 밖에 없는 시대끊임없이 변화할 수 밖에 없는 시대
'티키타카', '게겐프레싱', '쓰리백'. 축구를 좋아하는 분들이라면 다 들었던 단어들이다. 이 단어들이 의미하는 바는, 축구에서는 전술이라는 것이 있는데, 축구 전술 컨셉을 말한다.
티키타카는 많은 이들이 사용하듯, 주고 받는 것이 잘 되는 것을 말한다. 게겐프레싱은 상대방을 높은 위치에서 압박하는 것을 말한다. 쓰...
2026 월드 IT 쇼 후기 – 모든 것이 AI2026 월드 IT 쇼 후기 – 모든 것이 AI 그리고 비즈니스
항상 이런 전시회를 오면 우리나라 산업은 정말 대단한 것 같다. 이 작은 나라에서 그럼에도 불구하고 무언가를 끊임없이 만들어낸다. 작년까지 여러 컨퍼런스를 다녔는데 한국도 다른 나라 못지 않게 열정적으로 다양한 제품을 선보이고 있다.
작년에도 그랬지만 올해 역시 키워드는 ‘AI’다. 대...
OWASP Seoul 커뮤니티 소개OWASP Seoul 커뮤니티 소개
OWASP는 Open World Wide Application Security Project로, 소프트웨어 보안 향상을 위해 활동하는 비영리 재단입니다. 특정 기업에 종속되지 않은 오픈소스 커뮤니티로, 전 세계 보안 전문가들이 참여하여 웹 및 애플리케이션 보안 취약점의 표준과 대응 방안을 제시합니다.
한국뿐만 아니...
인연이 인연을 낳고인연이 인연을 낳고
링크드인을 통해 알게 된 분이 고객이 되고 그 고객이 나에게 도움이 되는 사람을 소개해주는 일을 경험했다. 인연이 인연을 낳았다.
회사를 옮기고, 여러 사람들을 만나면서 네트워크를 쌓고 있다. 정보도 공유하고 공유 받고 배우고 있다. 다음은 어떤 분을 만날까 고민하고 연락은 받아 주실 지, 요청에는 응해 주실 지 반신반의하며 나아...
AI 에이전트, 어디까지 믿을 수 있는가AI 에이전트, 어디까지 믿을 수 있는가
OWASP GenAI Security Project 2026년 1분기 종합 보고서에 따르면, 2026년 1분기에도 여러 보안 사고가 발생했다는 것을 알 수 있다. 대표적으로 8가지 사례를 싣고 있는데, 대체로 AI 에이전트와 관련한 문제다.
오픈클로가 유저의 받은편지함을 삭제하고, 메타의 내부 AI 에이전트 데이...
젠슨 황의 인터뷰를 보며젠슨 황의 인터뷰를 보며
비즈까페 유튜브에 올라온 젠슨 황의 인터뷰를 보게 됐는데 경제적으로, 커리어적으로 성공한 사람들은 대체로 비슷한 마인드셋을 갖고 있다. 그것은 바로 'Just Do' 정신이다.
그는 무조건 뛰어 드는 아이의 용기 같은, 슈퍼파워를 이야기하고 있다. 사람들은 무언가를 시작하기 전에 이것을 재고, 안될 이유를 찾고, 또 다른 좋은 ...
AI로 AI를 막는다AI로 AI를 막는다
최근 클로드 미토스라는 존재가 공개되면서 많은 업계에 큰 파장을 일으키고 있다. 그 어떤 AI 모델보다 강력하다는 평가를 받고 있어, 보안 시스템이 무너질 것이라는 위험이 확산되고 있다.
미토스는 인류의 마지막 시험 테스트에서 제미나이3 딥싱크 48.4%, 오퍼스 4.6 40%보다 훨씬 높은 점수 56.8%를 받았다. 또한, 보안 ...
AI, 보안 업계 직장인 분들, 커피챗해요!
새로이 AI 보안 업계에 둥지를 틀었습니다. 잘하고 싶고, 열심히 하고 싶고, 그래서 도움을 드리고 싶습니다.
한국 업계는 어떠한지, 어떻게 기업에서 AI를 사용하고 계신지, 보안 솔루션은 무엇이고 어떤 보안을 하고 계신지 궁금합니다.
커피는 제가 사고, 방문도 제가 하겠습니다! 이야기 나누면서 배우고 싶...
저도 클로드를 시작했습니다저도 클로드를 시작했습니다
정말 많은 분들이 클로드로 넘어가는 모습을 봤습니다. 그리고 뭐 좀 만드신다는 분들은 대부분 클로드를 활용하고 계셨습니다. 그래서 저도 더 이상 버틸 수 없어 클로드를 시작했습니다.
뭘 만들어서 판매하고 싶은 생각보다는, 내가 생각한 것을 제대로 구현해보고 싶다는 생각입니다. 괜한 공포증이 생기는 것보다 나의 업무 영역에서 제...
AI 레드 티밍의 필요성AI 레드 티밍의 필요성
안전불감증, 위험을 충분히 인지하지 못하거나 대수롭지 않게 여겨 안전 규정, 수칙을 무시하는 태도, 즉 안전의식이 낮은 상태를 뜻한다. AI 생태계에서도 동일하게 안전불감증 문화를 엿볼 수 있다.
Scale AI의 데이비드 캠벨은 강연에서 AI 레드 티밍의 중요성에 대해 역설했다. 우선, AI의 도입은 기존 사이버 보안의 공격 ...
민망해도 괜찮아민망해도 괜찮아
지난번에 AI 안전 국민공감 토크콘서트에 참여했을 때 있었던 일화다. 청중과 질문, 답변 시간이 있었는데 첫번째는 교수, 기업과의 대담이었다면 두번째는 정부와의 대담이었다.
나는 욕을 먹어도 반드시 질문하고 싶어서 그냥 첫 질문자로, 정부의 AI 사이버 보안에 대한 계획에 대해 질문했다. 아니나 다를까 두번째 패널 토론으로 밀려났다.
...
작년에 이룬 나의 비전작년에 이룬 나의 비전
링크드인으로 알게 된 김영광님을 통해 넥스터즈 멘토링에 참여하고 있다. 넥스터즈는 성남시청소년청년재단에서 진행하는 고등학생 대상 멘토링 활동이다. 감사하게도 그 곳에 멘토로 참여하고 있다.
각자 맡은 직무에 대해 고등학생들에게 소개해주는 프로그램이다. 오늘날 많은 학생들이 자신의 진로에 대해 관심을 갖지 않고 있고 어떻게 해야...
AI 안전 국민공감 토크 콘서트 후기AI 안전 국민공감 토크 콘서트 후기
지난 1일, 과학기술정통부에서 주최한 AI 안전 국민공감 토크 콘서트에 참가했습니다. 류제명 과기부 제2차관, SK AI위원회 김지현 부사장, 카이스트 김주호 교수, 한양대 이상욱 교수가 연사로 참여하여 기업, 교육, 정부 관점에서 AI에 대한 이야기를 나누었습니다. 진행자로 이혜성 아나운서가 함께했습니다.
오늘...
4월 2일은 사이버 범죄 예방의 날4월 2일은 사이버 범죄 예방의 날
4월 1일은 만우절입니다. 그런데 4월 2일도 무슨 날이라고 하네요. 바로 '사이버 범죄 예방의 날'입니다(저도 몰랐습니다...).
사이버의 사와 이를 따서 지정되었다고 합니다. 사이버 범죄에 대한 경각심을 높이기 위해 2015년부터 시행되었습니다.
매년 사이버 범죄 관련한 사건을 경험하고 있습니다. 대기업에서 발생...
AI & 보안 업계 행사 요정 되기AI & 보안 업계 행사 요정 되기
AIFT 이직 후, 첫 행사 참석입니다. 오랜만에 새로운 분야에 대해 공부하려고 하니 힘들기도 하지만 설레기도 합니다. 알아 듣지 못하는 용어, 맥락, 정보도 있는데 하나씩 알아가는 재미가 있습니다. 또한, 새로운 것을 배운다는 것은 언제나 감사한 일이라고 생각합니다.
어제는 베스핀글로벌에서 진행하는 파트너 데이에 참...
지금은 '글'로소득 시대입니다지금은 '글'로소득 시대입니다
우리는 대부분 근로소득자다. 근로소득이란, 고용관계 등으로 사용자의 지휘·감독 아래 종속적으로 일하고 그 대가를 받는 소득을 말한다. 대부분 우리는 회사에 소속되어 일하고 돈을 받기 때문에 근로소득자다.
이제 우리는 근로소득자에서 '글'로소득자로 진화해야한다. AI로 인해, 우리의 근로 환경이 변화되고 있다. AI를 잘 쓰...
AI 프라이버시 리스크를 경감하기 위한 대책AI 프라이버시 리스크를 경감하기 위한 대책
한국은 챗지피티 유료 구독자 수가 전세계 2위로, 정말 많은 사람들이 AI를 활용하고 있습니다. 챗지피티 뿐만 아니라 제미나이, 클로드 역시 사용자 수가 급증하고 있습니다. 천하 삼분지계처럼, 한국에는 챗지피티, 제미나이, 클로드가 시장 점유율을 높이기 위해 최선의 노력을 다하고 있습니다.
개인 뿐만 아니...
레드 팀과 블루 팀을 아시나요?레드 팀과 블루 팀을 아시나요?
생성형 AI 보안 업계에서 흔히 하는 말이에요. 기업이 생성형 AI를 활용할 때, 여러 보안 이슈가 있어요. 예를 들어, 기업이 소비자 대상 챗봇 서비스를 제공할 때, 챗봇에 공격을 가할 수 있겠죠. 챗봇은 보통 생성형 AI를 기반으로 제작되어 서비스가 운영돼요. 그래서 해커가 기업의 내부 데이터에 접근하도록 공격을 시도...
늘 새로운 영역에 도전하는 것은 어렵고 두려워요늘 새로운 영역에 도전하는 것은 어렵고 두려워요
짧은 기간들이었지만, 항상 새로운 곳에서 일을 할 때마다 불안함, 두려움으로 가득해요. 이걸 내가 잘할 수 있을까, 적응을 잘할 수 있을까, 빠르게 성과를 내지 못하면 어떡하지?, 성과를 못 내다가 짤리면? 수습기간도 못 넘기면 어떡하지? 라는 생각들이에요.
지금도 그런 생각이 들어요. 내가 과연 잘할 수...