학술대회 비용·문맥 검색·AI 안전 경계를 가른 댓글들

공동 저자가 등록해도 등록비는 참석자별로 부과되므로 별도 등록이 필요하다는 답변이 있었다.

자원봉사 grant와 소수자 대상 scholarship이 있을 수 있으니 EMNLP 공식 웹사이트의 일정과 자격을 확인하라는 정보가 제시됐다.

이력서 원문을 보낼 때 개인정보를 제거하고 관련 전문성·프로젝트만 남기라는 실무 조언이 있었다.

좋은 LinkedIn 프로필과 영향력 있는 인물의 추천이 구직 과정에서 도움이 된다는 조언이 나왔다.

agent가 실제로 실행하려는 동작을 downstream system에 전달하기 전에 정책과 대조하면, 취약한 integration engine을 통한 비정상 거래를 결정 단계에서 차단할 수 있다는 입장이다.

CVE 공개부터 의료 production patch 적용까지 수개월이 걸릴 수 있다는 원문 상황에 대해, 접근권한 축소·모니터링·patch 지연 대응책의 실무 비교가 필요하다는 문제 제기다.

가장 중요한 chunk를 문맥의 시작에, 두 번째로 중요한 chunk를 끝에 두는 RAG 배치가 검색 실패를 줄일 수 있다는 의견이 있었다.

어떤 정보가 핵심인지 미리 알아야 양 끝 배치를 할 수 있으므로, 실제 production에서는 실패한 relevance score를 다시 사용해 오류를 양 끝 슬롯에 고정할 수 있다는 반론이다.

모델마다 U자형 곡선의 깊이는 다를 수 있고 반복 실행에서 같은 결과가 나오는지 확인해야 하므로, 단일 사례만으로 일반화하기 어렵다는 지적이 있었다.

문서 입력부터 검색·답변·출처 반환까지 이어지는 self-hosted RAG 구조와 retrieval evaluation을 포함한 점에 긍정적 반응이 있었다.

실제 사용을 판단하려면 지원하는 open document format을 추가로 확인해야 한다는 질문이 나왔다.

코드는 chunk 자체와 imports·exports·sibling symbols가 문맥을 이미 드러내므로, full-document context를 추가해도 설명 품질이 움직이지 않았다는 결과가 공유됐다.

평가 corpus가 자체 제작이고 코드 검색 자체가 아니라 설명 생성만 측정했으므로, 다른 데이터셋과 retrieval 단계에 같은 결론을 적용해서는 안 된다는 제한이 제시됐다.

egocentric 영상 분석을 smart glasses와 산업용 repair assistance에 적용할 수 있다는 긍정적 반응이 있었다.

직원의 손동작을 세밀하게 추적하는 사용 목적이 micromanagement로 이어질 수 있다는 비판이 나왔다.

현재 VLM은 작업 전체 설명과 달리 motion blur가 큰 환경에서 fine-grained Hand-Object Interaction을 구분하기 어렵다는 기술적 한계가 확인됐다.

암 치료 가능성에 관한 실질적 근거나 예측은 댓글에서 제시되지 않았고, 질문 자체의 모호성을 지적하는 반응이 있었다.

과학 질문에서는 한 모델의 답을 그대로 쓰지 말고 신뢰할 만한 사람·문헌과 교차 검증해야 한다는 조언이 있었다.

Gemini는 유창성을 우선해 그럴듯한 전문용어·mechanism·citation을 만들 수 있고, GPT는 guardrail과 RLHF 영향으로 확신이 낮은 niche 질문에서 회피하거나 중단할 수 있다는 차이 설명이 나왔다.

일부 댓글은 ChatGPT·Claude의 유료 모델과 AlphaFold를 대안으로 언급했지만, 구체적 과학 질문이나 독립 평가 없이 개인 경험에 근거한 추천이었다.

상용 AI 개발 자원의 상당 부분을 alignment 연구로 전환해야 하며, 법적 강제가 없으면 연구소 자발적 서약이라도 필요하다는 입장이다.

모든 PC와 파일을 통제하거나 검열하는 방식은 실행 가능성이 낮고 저작권 감시와 헌법 문제를 일으킬 수 있다는 반론이 다수 제기됐다.

AI가 existential risk라는 전제가 입증되지 않았고, 강한 alignment가 모델의 지능과 연결 능력을 낮출 수 있다는 비판이 있었다.

paper registration을 포함해 최소 $550이 들 수 있으며, volunteer grant와 EMNLP의 minority scholarship 공지를 확인해야 한다는 정보가 나왔다.

Gemini·OpenAI·Claude·Sarvam·Azure credit을 보유한 사용자가 참석 비용 지원과 교환할 수 있다고 제안했다.

trace 저장, judge scoring, human review를 서로 다른 layer로 분리하고 production failure를 versioned reference set에 편입하면 regression 원인을 더 쉽게 격리할 수 있다는 의견이다.

tool 실행 여부·escalation·order number처럼 검증 가능한 항목은 hard assertion으로 검사하고, 모호한 품질에만 judge를 쓰며 accepted version을 반복 평가해 judge drift를 측정해야 한다는 제안이다.

자동화된 prompt 변경 loop가 평가 결과를 근거로 스스로 적용까지 수행하면 위험하므로, 사람이 변경을 commit하는 승인 단계를 loop가 대신할 수 없게 해야 한다는 입장이다.

Astra가 VerBench에서 Fable보다 크게 앞섰고 결과를 신뢰할 수 있다는 긍정적 반응이 높은 점수를 받았다.

VerBench를 처음 접했다는 반응과 benchmark 자체가 많다는 지적이 나와, 순위만으로 모델 우열을 확정하기 어렵다는 분위기가 있었다.

git와 별도 backup·private repo를 함께 사용하고 작업 전 commit을 남겨 coding agent의 파괴적 변경을 되돌릴 수 있게 해야 한다는 의견이 다수였다.

Claude Code가 이른 단계에 git 사용을 권고하더라도 사용자가 repository를 만들지 않거나 정리 작업을 무심코 승인하면 위험이 남는다는 지적이 있었다.