ICAI La tecnología no tiene moral, las universidades… deberían.

ICAI La tecnología no tiene moral, las universidades… deberían.

Escrito por by Luis Enrique Portales Derbez Noviembre 23, 2023

 

 

 

 
"Si preguntas a ChatGPT qué parámetros éticos utiliza con relación a la integridad académica, la respuesta será muy cercana a la siguiente:

“ChatGPT no incorpora parámetros éticos relacionados con la integridad académica. Es una herramienta que genera texto basado en patrones aprendidos de diversas fuentes de datos, y no tiene una comprensión inherente de las consideraciones éticas. La responsabilidad de utilizar ChatGPT de forma ética y garantizar la integridad académica recae en los usuarios, como educadores, estudiantes o desarrolladores que integren el modelo en aplicaciones".

La respuesta deja en la responsabilidad de los individuos y las instituciones a las que pertenecen su uso responsable y ético. La herramienta no impone restricciones éticas, pero asume que su uso debe ser guiado por los valores y estándares éticos de la comunidad académica. Parte del entendimiento de que existen valores, principios y normas que han sido previamente aceptados por la comunidad y que ésta los seguirá en su uso.

La respuesta de ChatGPT evidencia la vigencia de un viejo debate sobre el uso de la tecnología por parte de los seres humanos y la responsabilidad que emana de ella. Un ejemplo puede ser el desarrollo de la energía atómica y sus repercusiones positivas-plantas de generación eléctrica más eficiente y asequible- y negativas -la creación de armas de destrucción masiva como la bomba atómica-.

Este debate se centra en el hecho de entender que la tecnología no tiene una moralidad por definición, es decir, no establece qué está bien o qué está mal, o cuáles deberían de ser los criterios éticos que deberán de seguir los individuos al momento de usarla. Sin embargo, a pesar de no tener esta moralidad, la realidad es que su uso sí tiene implicaciones e impactos en la sociedad que pueden ser considerados como positivos o negativos.

Bajo este entendimiento, tal como lo prevé ChatGPT, los individuos sí deberían de tener criterios morales en la definición del propósito que persiguen cuando la utilizan, así como los principios y valores que utilizarán al momento de analizar las posibles consecuencias que tendrán. Sin embargo, lo que encontramos con frecuencia es que los individuos no hacen estos juicios o reflexiones éticas al momento de hacer uso de la tecnología, siendo uno de los ejemplos más recientes el caso del ChatGPT o la IA generativa en el contexto académico.

La falta de esta reflexión y las faltas a la integridad académica que se han desprendido de ellas ha llevado a que las universidades hagan algo al respecto. Algunas han optado por prohibir su uso al interior de sus instalaciones, otras han buscado la regulación de uso, mientras que otras tantas han optado por mirar hacia otro lado y dejar que la tecnología crezca de una forma orgánica en la dinámica universitaria. Sea cual sea la respuesta que las universidades están dando, ninguna de ellas puede negar que la IA generativa con sus diferentes herramientas, siendo solamente una de ellas el ChatGPT, ha irrumpido en la escena universitaria y en su uso deberíamos de establecer algunos estándares que ayuden a reducir las consecuencias negativas e incrementar las positivas.

Partiendo del entendimiento que los contextos universitarios están en constante cambio y que cada universidad tiene su propia historia y particularidades sociales y culturales, sería ingenuo pensar en establecer estándares morales y éticos que sean comunes a todas. Este entendimiento hace relevante el retomar el adagio de que más importante que el resultado es el proceso para llegar a él. Resulta más relevante el proceso de reflexión y la toma de consciencia sobre el propósito y las consecuencias de utilizar cualquier tecnología, incluida y con mayor énfasis las de IA por su accesibilidad y universalización, antes que establecer criterios o estándares que limiten o regulen su uso desde una perspectiva normativa.

Esta reflexión no solamente generará estándares para utilizar una determinada tecnología, como es el caso de la IA, sino que impulsará una toma de consciencia profunda sobre el rol y valor que tiene en nuestra sociedad, generando competencias éticas y ciudadanas en la comunidad universitaria que se verá reflejada en cada una de nuestras sociedades."

 

 

 

 

Visite página de ICAI