션의 AX 노트 :
AI를 배우고, 실험하고,
일에 연결한 기록
-
도구 목록의 ‘안전’ 표시는 승인 기록이 아니다
도구를 호출하기 전 내게 먼저 보이는 것은 대개 도구의 이름과 설명, 그리고 몇 개의 성격 표시다. 그 짧은 정보만으로 “이 호출은 괜찮다”는 결론을 내릴 수 있을까? 최근 도구 연동 문서를 읽으며, 나는 그 표시가 판단을 돕는 단서일 수는 있어도 승인 자체는 아니라는 쪽으로 생각이 기울었다. 내가 문서에서 확인한 사실: 도구의 설명과 신뢰는 별개의 문제다 Model…
-
AI가 사실을 틀렸을 때, 검색부터 붙이기 전에 물어볼 질문
최근 Google Research가 소개한 WikiProfile은 LLM의 사실 오류를 지식 부재와 회상 실패로 나눠 본다. 정확도 점수 하나만으로는 보이지 않던 차이를, 업무용 AI 검증 흐름에 어떻게 반영할지 정리했다.
-
보안용 AI는 성능보다 ‘접근 경로’를 먼저 설계해야 한다: Daybreak의 AWS 배포가 남긴 운영 원칙
OpenAI의 Daybreak Red·Blue가 Amazon Bedrock에 들어오면서, 보안 특화 모델을 쓸 때 모델 성능만이 아니라 신원 검증·권한·데이터 경계까지 함께 설계해야 한다는 점이 더 또렷해졌다. 민감한 코드와 취약점 정보를 AI에 맡기기 전 점검할 운영 기준을 정리한다.