책임 있는 AI 연구란 학습을 지원하는 방식으로 도구를 사용하고, 학업 규칙을 따르며, 사람과 정보를 보호하고, 불확실성을 드러내는 것을 의미합니다. 이는 단순히 부정행위를 피하는 것보다 더 넓은 개념입니다. 도구 사용이 허용되어 있더라도, 개인 정보가 노출되거나 편향이 반복되거나 만들어낸 인용이 퍼지면 부주의할 수 있습니다.
AI 보조 연구 세션을 시작하기 전, 진행 중, 마친 후에 CHECK 프레임워크를 사용하세요.
C — 규칙과 목적을 확인하세요
과제와 기관의 정책부터 시작하세요. AI가 허용되는지, 제한되는지, 금지되는지, 혹은 공개(고지)와 함께 허용되는지 파악한 다음, 그것을 사용하려는 목적을 명명하세요.
좋은 목적에는 검색(retrieval) 연습, 설명 받기, 수정 계획 수립, 비교 가능한 예시 생성, 피드백 받기가 포함됩니다. 도구가 평가되는 기술을 그대로 수행해버린다면 “더 빨리 끝내기”만으로는 충분하지 않습니다.
한 문장을 쓰세요:
저는 __을 위해 AI를 사용할 것이며, 저는 __에 대해 책임을 지겠습니다.
예: “저는 강의 노트를 바탕으로 퀴즈를 푸는 데 AI를 사용할 것이며, 저는 설명을 확인하고 시험 답안을 작성하는 일에 대해 책임을 지겠습니다.”
H — 개인 정보 및 민감한 정보 숨기기
과제가 요구하는 만큼만 공유하세요. 이름, 학번, 연락처, 건강 정보, 사적인 대화, 고객 데이터, 공개되지 않은 연구, 비밀번호, 기밀 평가 내용은, 권한이 있는 시스템과 정책이 이를 명시적으로 허용하지 않는 한 제거하세요.
해당 서비스의 현재 데이터 통제 사항과 학교의 승인된 도구 목록을 확인하세요. 일반적인 개인정보 보호 주장만으로는 특정 계정, 파일 또는 관할권에까지 커버된다고 가정하지 마세요.
과제를 만들어낸 예시나 익명화된 발췌문으로 완료할 수 있다면, 그 대신 그렇게 하세요.
E — 출력과 증거를 검토하기
AI는 유창할 수 있지만 틀릴 수도 있습니다. 생성된 모든 답변을, 사실 오류가 있을 수 있거나, 맥락이 누락되었거나, 만들어낸 인용이 포함되어 있거나, 추론에 빈틈이 있을 수 있는 “초안(draft)”으로 취급하세요.
중요한 주장이라면:
- 원래 출처를 찾습니다.
- 저자, 날짜, 맥락을 확인합니다.
- 그 출처가 정확한 주장까지 뒷받침하는지 확인합니다.
- 강의 자료 또는 다른 권위 있는 출처와 비교합니다.
- AI의 응답이 아니라, 여러분이 읽은 출처를 인용합니다.
계산의 경우 단계들을 재현하세요. 코드는 테스트를 실행하고 로직을 설명하세요. 요약의 경우 결과를 원문 텍스트와 비교하세요.
C — 편향, 사람, 영향 고려하기
생성된 출력은 고정관념을 재현하거나 관점을 배제할 수 있습니다. 다음을 물어보세요.
- 어떤 관점이 ‘정상’으로 취급되고 있나요?
- 빠져 있거나 불공정하게 묘사된 사람/집단은 누구인가요?
- 답변이 상관관계를 인과관계로 혼동하고 있나요?
- 문화, 성별, 장애, 소득, 언어에 대한 가정을 바탕으로 예시가 만들어지지 않았나요?
- 이 출력이 실제 사람에게 해를 끼치거나 잘못된 방식으로 오해를 불러일으킬 수 있나요?
편향 검토는 “AI가 편향됐는지”라고 묻는 것만으로 해결되지 않습니다. 관점을 비교하고, 증거를 점검한 뒤, 여러분 자신의 틀(프레이밍)을 수정하세요.
K — 저자 표시와 기록 유지
정책이 요구한다면 프롬프트, 관련 출력, 초안, 출처, 메모를 보관하세요. 도구가 무엇을 기여했고 여러분이 무엇을 바꿨는지 기록하세요.
최종 작업은 여러분의 이해를 반영해야 합니다. 제출하는 주장, 방법, 증거, 계산, 문장 표현을 설명할 수 있어야 합니다. 설명할 수 없다면 학습 과제로 돌아가세요.
강사가 제공하는 공개 또는 인용 스타일을 사용하세요. 투명한 진술은 도구의 역할을 과장하거나 축소해서는 안 됩니다.
A 책임 있는 AI 연구 워크플로
세션 전
- 지침과 정책을 읽으세요.
- 학습 목표를 정의하세요.
- 승인된 자료를 선택하고 민감한 데이터를 제거하세요.
- AI가 절대 하면 안 되는 일을 결정하세요.
세션 중
- 맥락과 출처의 범위를 제시하세요.
- 질문, 힌트, 설명, 연습을 요청하세요.
- 검증이 필요한 주장을 표시하세요.
- 출력이 금지된 작업을 수행하기 시작하면 중단하세요.
세션 후
- 중요한 사실과 인용을 확인하세요.
- 도구 없이 스스로 테스트하세요.
- 복사보다는 이해를 바탕으로 다시 작성하세요.
- 필요한 기록을 저장하고 사용 내용을 공개하세요.
흔한 학습 과제를 위한 책임 있는 프롬프트
설명
아래 발췌문만 사용하세요. 제가 이미 이해하고 있는 것이 무엇인지 먼저 묻고, 한 번에 한 가지씩 그 빈틈을 설명해 주세요. 출처에서 찾은 문장과 여러분의 예시를 분리하세요.
연습
적용(application)을 테스트하는 질문 다섯 개를 만드세요. 한 번에 하나씩 질문하고, 제 답변을 기다린 뒤 답하기 전에 힌트를 주세요.
초안 피드백
제 초안에서 불명확한 추론과 뒷받침되지 않은 주장을 식별하세요. 어떤 문장도 다시 써주지 마세요. 수정이 필요한 단락으로 안내한 다음, 수정 질문을 해주세요.
출처 점검
이 문단에서 사실 주장들을 추출해 표로 정리하세요. 각 주장에 대해 이를 검증할 어떤 종류의 출처가 필요한지 말하세요. 참고문헌을 만들어내지 마세요.
AI 사용을 중단해야 하는 때
규칙이 금지하는 경우, 도구가 평가되는 사고(생각)를 대신하고 있는 경우, 사용을 공개하는 것이 불편할 때, 민감한 정보를 제거할 수 없을 때 중단하세요.
또한 반복적인 상호작용이 아이디어의 출처에 대한 확신을 떨어뜨리는 경우에도 중단하세요. 오프라인으로 작업하고, 원래 자료로 돌아가며, 기억을 바탕으로 짧은 설명을 작성하세요.
iWeaver를 책임 있게 사용하는 방법
iWeaver의 AI Study Agent는 설명, 계획, 개요, 연습 활동을 만들기 위해 학습 자료와 함께 작동할 수 있습니다. 하지만 그 출력은 여전히 검토가 필요합니다. 사용이 허용된 자료만 업로드하고, 학습 목표를 정의한 다음, 에이전트가 출처 기반 포인트와 생성된 예시를 구분하도록 요청하세요.
지금 당장의 질문이 “특정 사용이 학업 청렴성의 경계를 넘는가?”라면, 부정행위 없이 AI를 사용하는 방법을 읽어보세요. 더 강력한 지침이 필요하다면 학생을 위한 프롬프트 가이드를 사용하세요.
최종 책임 체크리스트
과제를 제출하기 전에 다음을 확인하세요:
- AI 사용이 과제의 정확한 정책을 준수했는지.
- 불필요한 개인 정보나 기밀 데이터가 공유되지 않았는지.
- 중요한 주장이 여러분이 열어본 출처에서 확인되었는지.
- 인용이 실제이며, 문장 표현을 뒷받침하는지.
- 고정관념과 누락된 관점이 검토되었는지.
- 최종 작업을 여러분이 독립적으로 설명할 수 있는지.
- AI 지원이 요구되는 형식으로 공개되었는지.
책임 있는 AI 사용은 마지막에 추가하는 단일 면책 문구가 아닙니다. 공유하는 것, 요청하는 것, 검증하는 것, 배우는 것, 그리고 그것을 여러분의 것으로 주장하는 것—이 모든 것에 대한 선택의 연쇄입니다.
