¿Cómo justificar la navaja de Occam?

La versión intuitiva (que me parece justificada) es una declaración de pragmatismo, no de verdad: si Ay Bexplica las cosas igual de bien y Aes más simple, ¿por qué me molestaría con el dolor de cabeza adicional de B?

Creo que hay una versión más veraz que está enredada con la complejidad de Kolmogorov y la semántica dinámica de manera profunda. Nunca he visto nada parecido a una prueba de esto, pero la intuición es que aunque es fácil escribir una declaración verdadera, escribir una declaración verdadera que transmita mucha información (en el sentido de Kolmogorov) es muy difícil. Casi todo lo que intente decir tendrá muy poco contenido ("Mi nombre no es Joe") o será incorrecto ("Mi nombre es Fred") o no aprovechará el contexto y, por lo tanto, será imposiblemente voluminoso ("Mi nombre es Matt, donde por 'nombre' me refiero a la expresión verbal y la correspondiente serie de símbolos escritos por los que comúnmente se me hace referencia, en contraste con el nombre legal en mi certificado de nacimiento...").

La navaja de Occam es entonces una declaración de tres cosas: primero, cuán especial es encontrar una descripción compacta de cualquier cosa; segundo, que tenemos un lenguaje organizado en gran medida para que coincida con procesos causalmente separables o independientes; y tercero, que observamos que muy a menudo hay un solo proceso causal proximal en lugar de un embrollo indescifrable que da lugar a patrones reconocibles. Con estos tres juntos, tiene una esperanza razonable de que si encuentra una de estas raras descripciones compactas pero efectivas, realmente está en lo cierto.

Aun así, es solo una regla empírica, pero creo que es una regla empírica profunda y sutilmente verdadera.

Me gusta la interpretación de Popper . La sencillez no se basa en el lenguaje ni en la estética; se basa en la falsabilidad.

Con respecto a tu pregunta "la carga de la prueba debe recaer en el lado que tiene que probar más cosas" digo que sí. Supongamos que recopila datos a continuación,

sample 1 is 1 1 0
sample 2 is 2 3 2
sample 3 is 5 1 10

y haces una teoría "el tercer valor es el doble de la diferencia de los dos primeros valores, a menos que el primer valor sea mayor que 3, en cuyo caso el tercer valor es 10".

Aunque la teoría es falsable, sería escéptico, porque la complejidad de la teoría rivaliza con los datos mismos. Se lanzan críticas similares contra la teoría de cuerdas. Una teoría con más complejidad tiene una mayor carga de datos.

La navaja se basa en un principio más fundamental de que debemos proporcionar evidencia verificable siempre que sea posible para cualquier afirmación, de lo que se deduce que debemos preferir limitar el número de afirmaciones no verificables o entidades no observables, siempre que sea posible. La navaja se sigue directamente de esto. Por ejemplo, supongamos que tenemos un fenómeno observable X. La teoría 1 postula la entidad no observable A como la causa de X. Por lo tanto, solo se requiere una entidad no observable para la teoría 1.

La teoría 2 postula que las entidades no observables B y C son la causa de X. Por lo tanto, se requieren dos entidades no observables para la teoría 2, en lugar de solo una para la teoría 1. Suponiendo que queremos limitar las cosas de las que no tenemos evidencia directa ( excepto como explicaciones postuladas para X), deberíamos optar por la teoría 1.

Sobre cómo justificar el principio de que debemos preferir fenómenos verificables u observables, y debemos confiar lo menos posible en explicaciones que involucren cosas no observables, no lo sé, pero es una cuestión aparte.

La idea encarnada en la navaja de Occam está presente en las descripciones bayesianas de la creencia; y esta formulación proporciona una formulación matemática rigurosa de la idea.

Cualitativamente, las teorías más complejas tienen su densidad de probabilidad (previa) repartida en un volumen mayor (mayor par dimensional), lo que acaba afectando negativamente a la probabilidad inferida de la hipótesis. Por lo tanto, una hipótesis compleja necesita más "elevación" (ganancia de probabilidad) de los datos observados para superar un umbral determinado de probabilidad.

cf este capítulo por D. MacKay

Los eventos (A) y sus consecuencias (B) necesariamente requieren una cadena de causalidad por la cual el primero conduce al segundo. Esto significa que cuanto más complejo sea el primero, más compleja será la cadena desconocida de causalidad que requiere que esté en su lugar fuera de su conocimiento por la cual A conduce a B.

Cualquier explicación en la que A sea más compleja requiere que haya una cadena de causalidad mayor y más compleja de la que no eres consciente, que no has podido ver y, por lo tanto, falta más. Como no ha visto nada de eso, su mejor estimador es el estimado mínimo.

Por ejemplo, si miras un paisaje y miras hacia otro lado, y te digo que no viste una cantidad de árboles, puedes estimar que hubo un árbol que te perdiste o que había mil millones de selvas tropicales. Dado que no pudo ver ningún árbol, en ausencia de evidencia de lo contrario, el menor número de árboles es el mejor estimador.

Tu pregunta tiene dos defectos. (1) La justificación es imposible y no deseable. (2) La navaja de Occam es un estándar muy defectuoso.

La justificación, mostrar que una idea es verdadera o probablemente verdadera, es imposible. Si evalúa ideas usando argumentos, los argumentos tienen premisas y reglas de inferencia y el resultado del argumento puede no ser verdadero (o probablemente verdadero) si las premisas y las reglas de inferencia son falsas. Puede intentar resolver esto con un nuevo argumento que pruebe las premisas y las reglas de inferencia, pero luego tiene el mismo problema con esas premisas y reglas de inferencia. Podrías decir que algunas cosas son indudablemente ciertas (o probablemente ciertas), y puedes usar eso como base. Pero eso solo significa que ha cortado una posible vía de progreso intelectual ya que la base no se puede explicar en términos de algo más profundo. Y en todo caso no hay nada que pueda cumplir ese papel. La experiencia sensorial no ganará No funciona ya que puede malinterpretar la información de sus órganos sensoriales, por ejemplo, ilusiones ópticas. Los órganos de los sentidos tampoco registran muchas cosas que existen, por ejemplo, los neutrinos. Los instrumentos científicos tampoco son infalibles ya que puedes cometer errores al configurarlos, al interpretar la información de ellos, etc.

No creamos conocimiento (información útil o explicativa) mostrando que las cosas son verdaderas o probablemente verdaderas por razones, entonces, ¿cómo creamos conocimiento? Solo podemos crear conocimiento encontrando errores en nuestras ideas actuales y corrigiéndolos poco a poco. Notas un problema con tus ideas actuales, propones soluciones, criticas las soluciones hasta que solo queda una y luego encuentras un nuevo problema.

La navaja de Occam es problemática porque afirma que no debes multiplicar entidades más allá de la necesidad sin especificar qué cuenta como necesidad. Como resultado, a menudo se le han dado malas interpretaciones, como no agregar cosas que no estén justificadas. A veces es cierto que se ha creado una mejor explicación descartando una idea que la gente antes pensaba que era necesaria, por ejemplo, Einstein descartando el éter en la relatividad especial. Cualquier idea debe juzgarse por si resuelve problemas que otras ideas no resuelven, independientemente del número de entidades que invoque. Por ejemplo, no es una buena objeción a la teoría atómica afirmar que asume la existencia de un gran número de átomos: eso es un montón de suposiciones ~10 la potencia 23 para cualquier objeto dado. Podrías decirlo' Es solo una suposición, pero ¿por qué contarla como una sola suposición? Este es el tipo de problema que surge si ve la cantidad de suposiciones como el problema importante.