AI 제작 콘텐츠 홍수에 대처하고, 의미있게 상호작용하기

🗂️ PDF 버전 실라버스 살펴보기

📌 개요

생성형 AI의 눈부신 발전 덕분에 우리는 다양한 생성형 AI 서비스를 이용하고 있습니다. 대표적으로, ChatGPT와 같은 대형언어모델 서비스를 활용해 글이나 코드를 작성하고 있고, Midjourney 서비스를 통해 이미지 생성 서비스를 활용해 실제 같은 이미지를 제작하고 있습니다. 또한, 우리는 텍스트와 이미지뿐만 아니라 음악이나 영상을 제작할 수도 있습니다.

하지만 생성형 AI가 제작한 콘텐츠가 넘쳐나면서, 인터넷과 소셜미디어는 AI가 제작한 콘텐츠의 홍수에 빠져있습니다. AI가 제작한 콘텐츠는 유용하고 유익한 정보를 빠르게 제공할 수 있지만, 때로는 불필요하거나 불확실한 정보, 의미 없는 콘텐츠를 제작하기도 합니다. 이러한 AI 제작 콘텐츠를 구분하기 위한 많은 방법이 제안되었지만, 아직 이를 높은 정확도로 구분할 수 없는 완벽한 방법은 존재하지 않습니다. 생성형 AI 기술의 발전으로 인해 AI가 제작한 콘텐츠가 넘쳐나는 시대에서 우리는 이러한 AI 제작 콘텐츠의 홍수로부터 어떻게 대처해야 할까요?

이번 ODD에서는 총 4회에 걸쳐 AI 제작 콘텐츠의 홍수에 대처할 수 있는 전략과 방법을 인간과 사용자의 관점에서 논의해보고자 합니다. 이를 위해서 AI 제작 콘텐츠를 구분할 수 있는 각자의 전략과 방법을 공유하고, 더 나은 전략과 방법을 논의를 통해 찾아보고자 합니다. 사람들은 각자의 직관과 전략, 방법을 통해서 웹과 소셜미디어에 넘쳐나는 AI 제작 콘텐츠를 판별하고 있고, 이러한 전략과 방법은 사람마다 모두 다릅니다. 이러한 직관과 전략이야말로 인간의 고유한 능력이며, AI와 컴퓨터가 따라가기 어려운 부분이라고 생각합니다. 지금까지 제안된 기술 중심적인 방법을 넘어서, 인간 중심적인 방법을 통해 생성 AI의 문제를 해결할 수 있을지에 대해 가능성을 찾아보는 시간이 될 것입니다. 더 나아가 어떻게 하면 생성형 AI가 인터넷과 상호작용하는 효과적인 도구가 될 수 있을지에 대해서도 함께 고민해 보고자 합니다.

😊 모더레이터 소개

윤형근 파트너는 인간과 새로운 컴퓨팅 기술이 동반자로서 함께 살아가는 사회를 구현하는 것에 관심이 많습니다. 학창시절에 ‘SNS에 불필요한 정보가 너무 많다'는 생각을 바탕으로 소셜 네트워크 서비스인 ‘하루'를 개발에 참여했고, 이후 네이버로부터 지원을 받았습니다. 이후 DGIST에 진학하여 인간과 컴퓨터가 공존하는 사회에 대한 고민을 바탕으로 Human-Computer Interaction 분야에 관심을 갖게 되었으며, DGIST, 차세대융합기술연구원, KAIST 등에서 학부 연구원으로서 여러 연구에 참여했습니다. 졸업 후에 Companoid Labs의 공동창업자로 합류했고, 군복무를 위해 국방과학연구소에서 과학기술전문사관이자 연구원으로 근무하며 HCI와 AI 분야 연구를 수행하였습니다. 이후에 다시 Companoid Labs로 합류하여 기술이사이자 파트너로 여러 HCI 관점에서 스타트업의 사용자 경험 문제 해결에 대해 고민하고 있고, AI 기반 상호작용을 위한 인터페이스 기술 기업인 Companoid AI 초기 빌딩에 집중하고 있습니다.

👤 윤형근 파트너 링크드인 / 📘 페이스북 / 🌏 웹사이트

💡 회차별 주제

💬 1회차: 사용자가 살펴본 AI가 생성한 콘텐츠의 종류와 특징은 무엇일까?

👉 생성 AI의 발전으로 우리는 이제 웹, 소셜미디어, 인터넷에서 AI가 제작한 글이나 이미지, 영상을 쉽게 볼 수 있습니다. 이렇듯 AI가 생산한 콘텐츠는 점점 다양해지고, 그 수도 많아지고 있습니다. 다양한 콘텐츠가 AI로 제작되는 현재, AI는 어떠한 종류의 콘텐츠를 생성하고 있을까요? 그리고 AI 생성 콘텐츠는 어떠한 특징을 가지고 있을까요?

👉 AI로 어떠한 종류의 콘텐츠를 제작해보았는지, 또는 제작한 것을 봤는지 자신의 경험을 나눠봅니다. 이를 바탕으로 AI가 생성한 콘텐츠의 특징과 잠재적인 이슈가 무엇일지 논의합니다.

📖 읽을 거리

• Cao, Y., Li, S., Liu, Y., Yan, Z., Dai, Y., Yu, P. S., & Sun, L. (2023). A comprehensive survey of ai-generated content (aigc): A history of generative ai from gan to chatgpt. arXiv preprint arXiv:2303.04226.

• Partadiredja, R. A., Serrano, C. E., & Ljubenkov, D. (2020, November). AI or human: the socio-ethical implications of AI-generated media content. In 2020 13th CMI Conference on Cybersecurity and Privacy (CMI)-Digital Transformation-Potentials and Challenges (51275) (pp. 1-6). IEEE.

• Wei, Y., & Tyson, G. (2024). Understanding the Impact of AI Generated Content on Social Media: The Pixiv Case. arXiv preprint arXiv:2402.18463.

• Draxler, F., Werner, A., Lehmann, F., Hoppe, M., Schmidt, A., Buschek, D., & Welsch, R. (2024). The AI ghostwriter effect: When users do not perceive ownership of AI-generated text but self-declare as authors. ACM Transactions on Computer-Human Interaction, 31 (2), 1-40.

💬 2회차: AI가 제작한 콘텐츠를 판별하는 사용자 관점의 전략은 무엇일까?

👉 AI가 제작한 콘텐츠가 늘어나면서, 우리는 AI가 제작한 다양한 품질의 콘텐츠의 홍수에 빠져있습니다. 누가봐도 AI가 생성한 콘텐츠가 있는가하면, AI가 생성했지만 사람이 제작했는지 구분이 어려운 콘텐츠도 있습니다. AI가 제작한 콘텐츠의 특징에 대한 논의를 바탕으로, 우리는 AI가 제작한 콘텐츠를 판별할 수 있을까요? 인간이 만약 AI가 제작한 콘텐츠, 품질을 구분할 수 있다면, 구분할 수 있는 전략과 기준은 무엇일까요?

👉 AI가 제작한 콘텐츠를 구분하거나 판별하는 자신만의 전략이 있다면, 관련한 경험과 생각을 나눠봅니다. 이를 바탕으로 사용자 관점에서 AI가 제작한 콘텐츠를 판별하고 구분할 수 있는 방법이 무엇일지 논의합니다.

📖 읽을 거리

• Jakesch, M., Hancock, J. T., & Naaman, M. (2023). Human heuristics for AI-generated language are flawed. Proceedings of the National Academy of Sciences, 120 (11), e2208839120.

• Zhou, J., Zhang, Y., Luo, Q., Parker, A. G., & De Choudhury, M. (2023, April). Synthetic lies: Understanding ai-generated misinformation and evaluating algorithmic and human solutions. In Proceedings of the 2023 CHI Conference on Human Factors in Computing Systems (pp. 1-20).

• Frank, J., Herbert, F., Ricker, J., Schönherr, L., Eisenhofer, T., Fischer, A., ... & Holz, T. (2024, May). A representative study on human detection of artificially generated media across countries. In 2024 IEEE Symposium on Security and Privacy (SP) (pp. b55-73). IEEE.

• Cooke, D., Edwards, A., Barkoff, S., & Kelly, K. (2024). As good as a coin toss human detection of ai-generated images, videos, audio, and audiovisual stimuli. arXiv preprint arXiv:2403.16760.

💬 3회차: AI가 제작한 콘텐츠를 판별하는 Next Captcha와 사용자의 전략을 활용한 기술은 어떤 형태일까?

👉 Captcha는 웹사이트에 접근하려는 대상이 사람인지, 아니면 봇인지 구분하기 위해서 기계가 판별하기 어려운 문제를 통해 두 대상을 구분하는 프로그램입니다. 생성 AI의 발전으로 AI가 제작한 콘텐츠를 판별하기 어려운 지금, AI가 제작한 콘텐츠를 구분할 수 있는 Next Captcha는 어떤 형태의 기술일까요? 현재 제시된 AI 제작 콘텐츠 구분 방법을 살펴보고, 과연 사용자 관점에서 이러한 방법이 어떠한 의미가 있을까요?

👉 AI 제작 콘텐츠를 구분하는 방법에 대한 생각을 나눠봅니다. 또한, AI가 제작한 콘텐츠를 구분하는 사용자 관점의 전략으로 이러한 기술을 개선시키는 방법, 또는 새로운 형태의 기술에 대해 논의해봅니다.

📖 읽을 거리

• Jiang, Z., Zhang, J., & Gong, N. Z. (2023, November). Evading watermark based detection of AI-generated content. In

  Proceedings of the 2023 ACM SIGSAC Conference on Computer and Communications Security (pp. 1168-1181).

• Bhattacharjee, A., & Liu, H. (2024). Fighting fire with fire: can ChatGPT detect AI-generated text? ACM SIGKDD Explorations Newsletter, 25 (2), 14-21.

• Nguyen, T. T., Hatua, A., & Sung, A. H. (2023, October). How to Detect AI-Generated Texts?. In 2023 IEEE 14th Annual Ubiquitous Computing, Electronics & Mobile Communication Conference (UEMCON) (pp. 0464-0471). IEEE.

• Gordon, A. D., Negreanu, C., Cambronero, J., Chakravarthy, R., Drosos, I., Fang, H., ... & Zorn, B. (2023). Co-audit: tools to help humans double-check AI-generated content. arXiv preprint arXiv:2310.01297.

💬 4회차: AI를 활용하여 웹, 인터넷, 소셜미디어에서 의미있게 상호작용 할 수 있는 방법은 무엇일까?

👉 생성 AI 덕분에 우리는 많은 부분에서 생산성 혁신을 이뤄냈지만, 생성 AI로 새로운 문제가 발생하기도 했습니다. 우리가 살펴본 생성 AI가 제작한 콘텐츠도 잘 이용하면 혁신적이지만, 오히려 우리의 인터넷에 새로운 문제를 가져올 수 있습니다. 그렇다면, 우리가 AI를 활용해 우리의 인터넷에서 의미있게 상호작용하려면 어떻게 해야 할까요? 더 나아가, AI 기반 콘텐츠 제작뿐만 아니라 어떠한 형태로 인터넷에서 AI로 의미있는 상호작용을 할 수 있을까요?

👉 지금까지의 논의를 바탕으로 AI를 활용해 인터넷에서 의미있게 상호작용을 하는 방법에 대해 생각을 나눠봅니다. 더 나아가, AI가 우리의 인터넷에서 어떠한 형태의 인터랙션으로 활용될 수 있을지 논의해봅니다.

📖 읽을 거리

• Shi, J., Jain, R., Doh, H., Suzuki, R., & Ramani, K. (2023). An HCI-Centric Survey and Taxonomy of Human-Generative-AI Interactions. arXiv preprint arXiv:2310.07127.

• Abuelsaad, T., Akkil, D., Dey, P., Jagmohan, A., Vempaty, A., & Kokku, R. (2024). Agent-E: From Autonomous Web Navigation to Foundational Design Principles in Agentic Systems. arXiv preprint arXiv:2407.13032.

• Jin, H., Lee, S., Shin, H., & Kim, J. (2024, May). Teach AI How to Code: Using Large Language Models as Teachable Agents for Programming Education. In Proceedings of the CHI Conference on Human Factors in Computing Systems (pp. 1-28).

✏️ 운영 방식

🕒 일정 및 시간

• 11월 27일(수) ~ 12월 18일(수), 총 4회, 매주 수요일 오후 8시~10시 (각 회당 2시간)

📝 운영 방식 및 규정

• 모임 방식: 오프라인 예정(장소: 성수동 컴패노이드 랩스 HQ 또는 강남 예정, 추후 안내)

• 모집 인원: 최소 4명 이상, 최대 10명 이내(최소 인원 등록 미달 시 모임은 취소됩니다.)

• 각 회차별로 모더레이터가 주제와 관련된 이슈나 연구, 의제 등을 30분간 소개합니다.

• 30분간 주제와 관련된 소개가 끝난 후, 모더레이터가 논의할 세부 질문을 공유하고, 각자 15분간 생각을 정리합니다.

• 남은 1시간 15분동안 참가자들이 주제와 관련된 각자의 생각과 관점을 공유하고, 자유롭게 토의합니다.

• 회차가 끝나면, 논의한 내용을 모더레이터가 정리해서 ODD 멤버들에게 공유합니다.

💡 특징

• ODD는 참여형 워크샵, 참여형 디자인의 형태를 모방하여, 참가자들이 자신의 의견을 공유하며 사용자 관점에서 더 나은 기술과 사회에 대해 논의하는 것을 추구합니다.

• ODD 결과는 컴패노이드 랩스의 스포트라이트 연재, Position Paper 작성 등 저작물 형태의 확장 고려합니다.

🔥 금액

• 총 16만원(VAT 포함)

• 원데이 칼리지는 운영상의 불확실성을 줄이고 원데이 칼리지 멤버들의 쾌적한 프로그램 경험을 제공하기 위해 CIT의 환불 정책을 따르고 있습니다.