The challenge of human cognitive autonomy in the age of artificial intelligence
DOI:
https://doi.org/10.59616/cehd.v1i8.2272Keywords:
Autonomy, Critical thinking, Artificial intelligence, Metacognition, TechnologyAbstract
This article analyzes the link between technological progress and society, focusing on the paradox of autonomy and dependence. It explores how AI-based platforms affect users’ metacognitive awareness, their ability to reflect, learn, and decide. Using a qualitative approach and literature review, it highlights metacognition as key to understanding AI’s impact on human skills. The study warns that indiscriminate AI use may harm autonomy and critical thinking, proposing metacognition as a response to technological alienation and a path toward ethical, critical engagement with technology.
References
ARISTÓTELES. A política. Trad. Nestor Silveira Chaves. São Paulo: Cia. Editora Nacional, 1985.
AZEVEDO, Antonio Gilson Barbosa; SANTOS, Leizane Ferreira dos. A construção do pensamento crítico: perspectivas históricas, educacionais e contemporâneas. Revista Contemporânea, v. 5, n. 1, p. 110-127, jan. 2025. DOI: 10.56083/RCV5N1-075. Disponível em: https://ojs.revistacontemporanea.com/ojs/index.php/home/article/view/7298. Acesso em: 9 abr. 2025.
BARROSO; Luís Roberto; MELLO, Patrícia Perrone Campos. Inteligência artificial: promessas, riscos e regulação. Algo de novo debaixo do sol. Revista Direito e Práxis, n. 15, v. 4. 2024. DOI: 10.1590/2179-8966/2024/84479. Disponível em: https://www.scielo.br/j/rdp/a/n89PjvWXTdthJJKwb6TtYXy/?lang=pt. Acesso em: 15 ago. 2025.
BESSIÈRE, Katie; PRESSER, Marina; KUHN, Katherine M. Digitally connected, socially disconnected: The effects of relying on technology rather than other people. Computers in Human Behavior, v. 76, p. 68-74, Nov. 2017. DOI: 10.1016/j.chb.2017.07.035. Disponível em: https://www.sciencedirect.com/science/article/pii/S0747563217304132. Acesso em: 21 ago. 2025.
BORGES, Maxwell Leandro. A dependência tecnológica e os impactos psicossociais nos dias atuais. Revista Educação Contemporânea, v. 2, n. 1, p. 1–15, 7 fev. 2025. Disponível em: https://www.editoraverde.org/portal/revistas/index.php/reca/article/view/382. Acesso em: 5 abr. 2025.
BRASIL. Lei nº 15.100, de 13 de janeiro de 2025. Dispõe sobre a utilização, por estudantes, de aparelhos eletrônicos portáteis pessoais nos estabelecimentos públicos e privados de ensino da educação básica. Disponível em: https://www.planalto.gov.br/ccivil_03/_ato2023-2026/2025/lei/l15100.htm. Acesso em: 12 abr. 2025.
BRASIL. Ministério da Educação. Assessoria de Comunicação Social. Restrição de celular na escola visa melhorar aprendizagem. Gov.br, 4 fev. 2025. Disponível em: https://www.gov.br/mec/pt-br/assuntos/noticias/2025/fevereiro/restricao-de-celular-na-escola-visa-melhorar-aprendizagem. Acesso em: 6 abr. 2025.
BUIJSMAN, Stefan; CARTER, Sarah E.; BERMÚDEZ, Juan-Pablo. Autonomy by Design: preserving human autonomy in AI decision-support. Philosophy & Technology, v. 38, n. 1, 2025. DOI: 10.1007/s13347-025-00932-2. Disponível em: https://link.springer.com/article/10.1007/s13347-025-00932-2. Acesso em: 21 ago. 2025.
CAPPELLOZZA, Alexandre; MORAES, Gustavo Henrique Silva de; MUNIZ, Leonardo Martins. Uso pessoal das tecnologias no trabalho: motivadores e efeitos à distração profissional. Revista de Administração Contemporânea, v. 21, n. 5, p. 605–626, set./out. 2017. DOI: 10.1590/1982-7849rac2017160145. Disponível em: https://www.scielo.br/j/rac/a/MB33w3Qc66D6HdrHgtfZn9z. Acesso em: 10 abr. 2025.
CHAN, Cecilia Ka Yuk; ZHOU, Wenxin. Deconstructing student perceptions of Generative AI (GenAI) through an Expectancy Value Theory (EVT) - based Instrument. ArXiv, 2 maio 2023. Disponível em: https://arxiv.org/abs/2305.01186. Acesso em: 18 ago. 2025.
CHETWYND, Ellen. Ethical use of artificial intelligence for scientific writing: current trends. Journal of Human Lactation, v. 40, n. 2, p. 211-215, maio 2024. DOI: 10.1177/08903344241235160. Disponível em: https://journals.sagepub.com/doi/10.1177/08903344241235160. Acesso em: 10 jun. 2025.
CRESWELL, John W. Projeto de pesquisa: métodos qualitativo, quantitativo e misto. 3. ed. Porto Alegre: Artmed, 2010.
DAMÁSIO, António. O mistério da consciência: do corpo e das emoções ao conhecimento de si. Tradução Laura Teixeira Motta. São Paulo: Companhia das Letras, 2015.
DARTMOUTH COLLEGE. Artificial intelligence (AI) coined at Dartmouth. Dartmouth College, 2025. Disponível em: https://home.dartmouth.edu/about/artificial-intelligence-ai-coined-dartmouth. Acesso em: 21 ago. 2025.
FERREIRA, Ana Cláudia; OLIVEIRA, Adriane Maria Netto de; MEDEIROS, Silvana Possani; GOMES, Giovana Calcagno; CEZAR-VAZ, Marta Regina; ÁVILA, Janaína Amorim de. Internet e adolescentes: revisão integrativa sobre uso descontrolado e exposição a conteúdos inadequados. Revista Brasileira de Enfermagem, v. 73, n. 5, e20190334, 2020. DOI: 10.1590/0034-7167-2018-0766. Disponível em: https://www.scielo.br/j/reben/a/KMbfXJMxMnPYQV6QBkqjtZP. Acesso em: 21 ago. 2025.
FISCHLER, Martin A.; FIRSCHEIN, Oscar. Intelligence: the eye, the brain, and the computer. Reading, Massachusetts: Addison-Wesley Publishing Company, 1987.
FLAVELL, John Hurley. Metacognition and cognitive monitoring: a new area of cognitive-developmental inquiry. American Psychologist, v. 34, n. 10, p. 906-911, 1979. DOI: 10.1037/0003-066X.34.10.906. Disponível em: https://psycnet.apa.org/record/1980-09388-001. Acesso em: 1 abr. 2025.
FONSECA, Vitor da. Papel das funções cognitivas, conativas e executivas na aprendizagem: uma abordagem neuropsicopedagógica. Revista Psicopedagogia, São Paulo, v. 31, n. 96, 2014. Disponível em: https://pepsic.bvsalud.org/scielo.php?script=sci_arttext&pid=S0103-84862014000300002. Acesso em: 31 mar. 2025.
FOUCAULT, Michel. O sujeito e o poder. In: FREYFUS, Hubert L.; RABINOW, Paul. Michel Foucault: uma trajetória filosófica. Tradução Vera Porto Carrero. Rio de Janeiro: Forense Universitária, 1995.
FREIRE, Paulo. Pedagogia do oprimido. 88 ed. Rio de Janeiro: Paz e Terra, 2024.
GERLICH, Michael. AI Tools in Society: Impacts on Cognitive Offloading and the Future of Critical Thinking. Societies, v. 15, n. 1, jan. 2025. Disponível em: https://www.mdpi.com/2075-4698/15/1/6. Acesso em: 1 abr. 2025.
GIL, Antonio Carlos. Métodos e técnicas de pesquisa social. 6. ed. São Paulo: Atlas, 2008.
HAN, Byung-Chul. No enxame: perspectivas do digital. Tradução Lucas Machado. Petrópolis: Vozes, 2018.
HINDE, Gillian; BOLONHIN, Sabine Zink; COURTOIS, Jean-Philippe. Prefácio. In: WORD ECONOMIC FORUM. IA para impacto: o papel da inteligência artificial na inovação social. Abr. 2024. Disponível em: https://reports.weforum.org/docs/WEF_AI_for_Impact_ptbr_2024.pdfm. Acesso em: 22 fev. 2025.
HOBBES, Thomas. Leviatã. Trad. João Paulo Monteiro e Maria Beatriz Nizza da Silva. São Paulo: Martins Fontes, 2003.
HUANG, Shunsen; LAI, Xiaoxiong; KE, Li; LI, Yajun; WANG, Huanlei; ZHAO, Xinmei; DAI, Xinran; WANG, Yun. AI technology panic – is AI dependence bad for mental health? A cross-lagged panel model and the mediating roles of motivations for ai use among adolescents. Psychology Research and Behavior Management, mar. 2024. DOI: 10.2147/PRBM.S440889. Disponível em: https://www.dovepress.com/ai-technology-panicis-ai-dependence-bad-for-mental-health-a-cross-lagg-peer-reviewed-fulltext-article-PRBM. Acesso em: 22 fev. 2025.
LEE, Hao-Ping (Hank); SARKAR, Advait; TANKELEVITCH, Lev; DROSOS, Ian; RINTEL, Sean; BANKS, Richard; WILSON, Nicholas. The Impact of Generative AI on Critical Thinking: Self-Reported Reductions in Cognitive Effort and Confidence Effects From a Survey of Knowledge Workers. In: CHI Conference on Human Factors in Computing Systems (CHI '25), 26 abr. - 1 maio 2025, Yokohama, Japão. Anais [...]. New York: Association for Computing Machinery, 2025. p. 1-23. Disponível em: https://www.microsoft.com/en-us/research/wp-content/uploads/2025/01/lee_2025_ai_critical_thinking_survey.pdf. Acesso em: 1 abr. 2025
LÉVY, Pierre. Cibercultura. Tradução Carlos Irineu da Costa. São Paulo: Editora 34, 1999.
MAIA, Lucas Emanuel de Oliveira; VASCONCELOS, Francisco H. L.; MENEZES, Daniel Brandão. Impacto das tecnologias educacionais no processo de ensino e aprendizagem: desafios e oportunidades. Cuadernos de Educación y Desarrollo, v. 16, n. 3, mar. 2024. DOI: 10.55905/cuadv16n3-007. Disponível em: https://ojs.cuadernoseducacion.com/ojs/index.php/ced/article/view/3539. Acesso em: 10 abr. 2025.
MAYER-SCHÖNBERGER, Viktor; CUKIER, Kenneth. Big Data: como extrair volume, variedade, velocidade e valor da avalanche de informação cotidiana. Rio de Janeiro: Alta Books, 2013.
MANASIA, Loredana. Metacognitive reflections: Assessing and adjusting learning process. International Journal of School and Cognitive Psychology, v. 11, n. 5, 2024. Disponível em: https://www.longdom.org/open-access/metacognitive-reflections-assessing-and-adjusting-learning-process-108292.html. Acesso em: 21 ago. 2025.
MORIN, Edgar. Introdução ao pensamento complexo. 4. ed. Tradução Eliane Lisboa. Porto Alegre: Sulina, 2011.
NAPOMUCENO, Gustavo. [Especialista em inteligência artificial da Mouts TI, empresa de outsourcing de TI]. Entrevista sobre inteligência artificial. concedida a Maria Eduarda Bernardes França. Blumenau, 10 mar. 2025.
OECD. Organisation for Economic Co-Operation and Development. PISA 2022 Results (Volume I and II): Country Notes – Brazil. Paris: OECD Publishing, 2023. Disponível em: https://www.oecd.org/en/publications/pisa-2022-results-volume-i-and-ii-country-notes_ed6fbcc5-en/brazil_61690648-en.html. Acesso em: 21 ago. 2025.
OPAS. Organização Pan-Americana da Saúde. Entenda a infodemia e a desinformação na luta contra a COVID-19. Washington, D.C.: OPAS, 2020. Disponível em: https://iris.paho.org/bitstream/handle/10665.2/52054/Factsheet-Infodemic_por.pdf?sequence=16. Acesso em: 10 mar. 2025.
POSTMAN, Neil. Tecnopólio: a rendição da cultura à tecnologia. São Paulo: Nobel, 1994.
ROCHA, Rita de Cássia Machado da; CORRÊA, Roberta Pires; FERREIRA, Roberto Rodrigues. A Tecnologia Digital de Comunicação e Informação (TDIC) e suas possibilidades na educação durante a pandemia de Covid-19. Revista Ibero-Americana de Estudos em Educação, Araraquara, v. 17, n. 4, p. 2526–2543, out./dez. 2022. DOI: 10.21723/riaee.v17i4.15695. Disponível em: https://periodicos.fclar.unesp.br/iberoamericana/article/view/15695. Acesso em: 31 mar. 2025.
RUVENAL, Caio. Mais eficiente, mas menos feliz: como a IA está nos mudando. Tendencias. El País. 26 de março de 2025. Disponível em: https://elpais.com/proyecto-tendencias/2025-03-26/mas-eficientes-pero-menos-felices-asi-nos-esta-cambiando-la-ia.html. Acesso em: 8 abr. 2025.
SAPKOTA, Ranjan; ROUMELIOTIS, Konstantinos I.; KARKEE, Manoj. AI Agents vs. Agentic AI: A Conceptual Taxonomy, Applications and Challenges. arXiv preprint, 15 maio 2025. DOI: 10.48550/arXiv.2505.10468. Disponível em: https://arxiv.org/abs/2505.10468. Acesso em: 15 ago. 2025.
SCHNEIDER, Johannes. Generative to Agentic AI: Survey, conceptualization, and challenges. arXiv preprint, 26 abr. 2025. DOI: 10.48550/arXiv.2504.18875. Disponível em: https://arxiv.org/abs/2504.18875. Acesso em: 15 ago. 2025.
SECOM/PR. Secretaria de Comunicação Social da Presidência da República. Crianças, adolescentes e telas: guia sobre usos de dispositivos digitais. Brasília: SECOM/PR, 2024. Disponível em: https://www.gov.br/secom/pt-br/assuntos/uso-de-telas-por-criancas-e-adolescentes/guia. Acesso em: 20 jan. 2025.
SILVA, Jaelson Luiz Lisboa da. As TDIC como aliadas ou inimigas da educação?: breve estudo sobre dependência digital. 2020. 64 f. Trabalho de Conclusão de Curso (Licenciatura em Pedagogia) - Unidade Delmiro Gouveia-Campus do Sertão, Universidade Federal de Alagoas, Delmiro Gouveia, 2020. Disponível em: http://www.repositorio.ufal.br/handle/riufal/7551. Acesso em: 6 abr. 2025.
SILVA, Mardem Leandro; TEODORO, Elizabeth Fátima; COUTO, Daniela Paula do. Psicanálise e redes sociais: as dinâmicas de captura virtual do desejo e digitalização da subjetividade nas cenas do semiocapitalismo. Pretextos - Revista da Graduação em Psicologia da PUC Minas, Belo Horizonte, v. 9, n. 17, p. 422-442, 2024. Disponível em: https://periodicos.pucminas.br/pretextos/article/view/32678. Acesso em: 23 fev. 2025.
SPRITZE, Daniel Tornaim; RESTANO, Aline; BREDA, Vitor; PICON, Felipe. Dependência de tecnologia: avaliação e diagnóstico. Revista Debates em Psiquiatria, v. 11, n. 2, p. 24–32, jul./dez. 2021. DOI: 10.25118/2236-918X-6-1-3. Disponível em: https://revistardp.org.br/revista/article/view/145. Acesso em: 10 abr. 2025.
TEIXEIRA, Anísio. A pedagogia de Dewey. In: WESTBROOK, Robert B.; TEIXEIRA, Anísio. John Dewey. Tradução e organização José Eustáquio Romão e Verone Lane Rodrigues. Recife: Fundação Joaquim Nabuco, Editora Massangana, 2010, 33-66.
TOMASELLO, Michael. Origens culturais da aquisição do conhecimento humano. Tradução de Claudia Berliner. 2. ed. São Paulo: Martins Fontes, 2019.
TUONONEN, Tiina; HYYTINEN, Heidi; RÄISÄNEN, Maija; HAILIKARI, Telle; PARPALA, Anna. Metacognitive awareness in relation to university students’ learning profiles. Metacognition and Learning, v. 18, p. 37-54, 2023. DOI: 10.1007/s11409-022-09314-x. Disponível em: https://link.springer.com/article/10.1007/s11409-022-09314-x. Acesso em: 21 ago. 2025.
TURING, Alan M. Computing Machinery and Intelligence. Mind, v. 59, n. 236, p. 433–460, out. 1950. Disponível em: https://academic.oup.com/mind/article-abstract/LIX/236/433/986238. Acesso em: 11 ago. 2025.
VIEIRA PINTO, Álvaro. O conceito de tecnologia. Rio de Janeiro: Contraponto, 2005.
VON NEUMANN, John. The computer and the brain. New Haven: Yale University Press, 1958.
WEIZENBAUM, Joseph. ELIZA - a computer program for the study of natural language communication between man and machine. Communications of the ACM, v. 9, n. 1, p. 36–45, jan. 1966. Disponível em: https://dl.acm.org/doi/10.1145/365153.365168. Acesso em: 2 abr. 2025.
