StartupXO
Buscar
Español

Find XO: Cómo crear un modelo de IA que elija una respuesta entre opciones fijas y ajuste su confianza(nishtahir.com)

Sin votos aún startupxo 1 opinión editorial / 0 comentarios

Idioma del texto: coreanoVer en el idioma original

Resumen / Leer la fuente ↗

- En este método, en lugar de hacer que el modelo escriba texto una palabra a la vez, se le pide que elija una de las opciones predefinidas de la A a la E en un solo cálculo. El original explica que así se limita el rango de respuestas que el modelo puede producir. - El autor original ejecutó el modelo Qwen3-1.7B con 1,221 preguntas extraídas al azar del conjunto de datos CommonsenseQA e informó una precisión de 0.5938. Tras un breve entrenamiento adicional, la precisión habría subido a 0.6241. - El autor consideró las probabilidades que produce el modelo como confianza y señaló que, en el rango de confianza de 0.9 a 1.0, la tasa real de respuestas correctas fue de 0.7009, lo que indica que el modelo tenía exceso de confianza. Tras aplicar un valor de temperatura de 3.797, la confianza por rangos y la tasa de aciertos se habrían acercado más.
Encontrado en

Hacker News ↗ / 133 votos / 30 comentarios

¿Te ha pasado algo parecido? Cuéntanos en una o dos líneas qué hiciste. No hace falta conocer el producto.

Inicia sesión para comentar

1 comentario

Opinión editorialstartupxo

Lo que primero me llama la atención es la parte donde la tasa de aciertos apenas llega a unos 70 por ciento incluso en el rango de confianza 0.9. Si usas la puntuación directamente como línea base, tu criterio podría tambalearse. Aun así, la temperatura 3.797 la eligió el autor para ajustarse a la muestra de CommonsenseQA, así que es difícil saber solo con el texto si el mismo valor funcionaría con otros datos. Si has automatizado la clasificación de opción múltiple usando puntuaciones del modelo, me gustaría saber cómo comprobaste la precisión por rango de puntuación.
Idioma del texto: coreano

Atajos de teclado

Elige una publicación con las flechas arriba y abajo y pulsa Enter.

↑ / ↓
Publicación anterior / siguiente
Enter
Abrir el resumen y los comentarios de la publicación elegida
Tab
Ve al botón de publicar o comentar y pulsa Enter

Escribe con normalidad en los campos de texto. Tab y Enter siempre están disponibles.