El jefe de TikTok insiste en que la seguridad de los adolescentes no corre riesgo por la moderación de la IA | Noticias de ciencia, clima y tecnología.

Están sucediendo muchas cosas en TikTok en este momento.

Además de las actualizaciones de seguridad en línea y las nuevas funciones, la compañía está introduciendo cambios radicales en la forma en que se administra el contenido de la plataforma.

Al mismo tiempo, hay un fuerte enfoque en… seguridad en internetespecialmente aquí en el Reino Unido.

Con todo lo que está sucediendo, Sky News obtuvo una entrevista poco común y exclusiva con una de las personas. tik tok Altos ejecutivos de seguridad, sobre la ley.

El creciente papel de la inteligencia artificial

Uno de los mayores cambios que está ocurriendo en TikTok es ahora mismo. inteligencia artificial.

Como la mayoría de las empresas de redes sociales, TikTok ha utilizado inteligencia artificial para ayudar a administrar su plataforma durante años, lo cual es útil para filtrar contenido que claramente viola las políticas, y TikTok dice que ahora elimina alrededor del 85% del contenido que viola las políticas sin involucrar a un humano.

Ahora está aumentando el uso de inteligencia artificial y dependerá menos de supervisores humanos. Entonces, ¿qué ha cambiado para que TikTok confíe en su capacidad de inteligencia artificial para mantener seguros a sus usuarios jóvenes?

«Una de las cosas que ha cambiado es lo complejos que son esos modelos», dijo Lu, director de políticas públicas y asuntos gubernamentales de TikTok para el norte de Europa. Explicó que la inteligencia artificial ahora es más capaz de comprender el contexto.

«Un gran ejemplo es la capacidad de reconocer un arma».

Si bien los modelos anteriores pueden haber podido reconocer un cuchillo, los modelos más nuevos pueden distinguir entre un cuchillo usado en un video de cocina y un cuchillo en una confrontación violenta, según el Sr. Lu.

“Ponemos un listón alto cuando se trata de implementar nueva tecnología de moderación.

“En particular, nos aseguramos de estar seguros de que los resultados de nuestros procesos de moderación existentes igualarán o superarán cualquier cosa que hagamos sobre una nueva base.

«También nos estamos asegurando de que los cambios se introduzcan de forma gradual con supervisión humana, de modo que si no hay un nivel de entrega que esté en línea con lo que esperamos, podamos abordarlo».

Se eliminan los puestos de moderador humano

Este mayor uso de inteligencia artificial significa que TikTok dependerá menos de su red de decenas de miles de moderadores humanos en todo el mundo.

Sólo en Londres, la empresa propone eliminar más de 400 puestos de supervisión, aunque hay informes de que varios de estos puestos se reutilizarán en otros países.

El 30 de octubre, Paul Nowak, secretario general del TUC, dijo “repetidamente” que TikTok “no había dado una respuesta suficientemente buena” sobre cómo los recortes afectarían a la seguridad de los usuarios en el Reino Unido.

Cuando Sky News preguntó si Lu podría garantizar la seguridad de los usuarios del Reino Unido después de los recortes, dijo que el enfoque de la compañía estaba «siempre en los resultados».

“Nuestro objetivo es garantizar que la plataforma sea lo más segura posible.

«Implementaremos la tecnología más avanzada para que esto suceda, trabajando con los miles de profesionales de confianza y seguridad que tendremos en TikTok en todo el mundo de forma continua».

El Comité de Ciencia, Tecnología e Innovación del Reino Unido, dirigido por la parlamentaria laborista Chi Onwurah, inició una investigación sobre los recortes, y Onwurah los describió como “profundamente preocupantes”.

Dijo que la IA “no era lo suficientemente confiable ni segura para realizar un trabajo como este” y que existía un “riesgo real” para los usuarios en el Reino Unido.

Sin embargo, el señor Lu dijo que, como padre, «también está muy preocupado y preocupado por las cuestiones de seguridad en línea».

«Por eso tengo mucha confianza en los cambios que estamos haciendo en TikTok en términos de moderación de contenido en general», dijo.

«El poder realmente proviene de la combinación de la mejor tecnología y expertos humanos trabajando juntos, y ese sigue siendo el caso en TikTok y seguirá adelante también».

sanitarios nuevos

La entrevista se produjo al final de un evento sobre seguridad en línea en la oficina de TikTok en Dublín, su sede europea.

Durante la conferencia, la compañía anunció una serie de funciones nuevas diseñadas para aumentar la seguridad del usuario, incluido un nuevo Centro de tiempo y bienestar en la aplicación para usuarios de TikTok.

El centro fue diseñado en colaboración con el Digital Wellness Lab del Boston Children's Hospital y juega con técnicas de atención plena como afirmaciones, no usar TikTok por la noche y reducir el tiempo frente a la pantalla.

Lea más de Sky News:
Meta prohibirá Instagram y Facebook para usuarios menores de 16 años en Australia
Una encuesta muestra que la mitad de los novelistas temen ser completamente reemplazados por la inteligencia artificial
Cómo prosperan los extremistas violentos en línea y por qué cada vez es más difícil atraparlos

Corey Stott, director ejecutivo del Digital Wellness Lab, dijo que muchas personas usan sus teléfonos “para sintonizarse con su bienestar, restablecer sus emociones, encontrar esos espacios seguros y también para encontrar entretenimiento”.

Dijo que el centro se creó como parte de TikTok porque los jóvenes quieren herramientas de bienestar «justo donde están», sin tener que navegar a una aplicación diferente.

Sin embargo, hay muchos informes de que el uso del teléfono y las redes sociales está teniendo un efecto perjudicial en la salud mental de los jóvenes… Entonces, ¿TikTok está tratando de resolver un problema propio?

«Si eres un adolescente en la aplicación, la cargarás y descubrirás que tienes, si tienes menos de 16 años, un perfil privado, sin acceso a mensajes directos, un límite de tiempo de pantalla establecido en una hora, (y) una sugerencia de hora de dormir a las 10 p. m.», dijo Lu.

«Por lo tanto, la prueba intenta promover un enfoque equilibrado en el uso de la aplicación y garantizar que las personas tengan opciones para poner sus propias barreras en torno a esto», dijo.

«Creo que la otra cosa que diría es que el contenido de TikTok, en general, es inspirador, sorprendente y creativo».