¿Cómo es que Vyasa rechazó a Panchratra Agamas en Vedanta Sutras pero se refirió al Bhagavad Gita, que también se considera una escritura de Panchratra?

En primer lugar, tienes razón en que el Bhagavad Gita es parte de la tradición Pancharatra. Esto es lo que dice este capítulo del Shanti Parva del Mahabharata, que describe cómo se transmitió la tradición Pancharatra:

Durante el séptimo nacimiento de Brahma debido al loto, oh rey, que brotó del ombligo de Narayana, este culto fue declarado una vez más por el propio Narayana, al Abuelo del alma pura, el Creador de todos los mundos, al comienzo de este Kalpa. El abuelo se lo dio en días de antaño a Daksha (uno de sus hijos creado por un decreto de su voluntad). Daksha, a su vez, lo impartió al mayor de todos los hijos de sus hijas, oh monarca, a saber, Aditya, que es mayor en edad que Savitri. De Aditya, Vivaswat lo obtuvo. Al comienzo del Treta Yuga, Vivaswat impartió el conocimiento de este culto a Manu. Manu, para la protección y apoyo de todos los mundos, se lo dio a su hijo Ikshaku. Promulgado por Ikshaku, ese culto se extiende por todo el mundo. Cuando llegue la destrucción universal, volverá una vez más a Narayana y se fusionará con Él.La religión que siguen y practican los Yatis, oh el mejor de los reyes, te ha sido narrada antes en el Hari Gita, con todas sus ordenanzas en resumen. El celestial Rishi Narada lo obtuvo de ese Señor del universo, a saber, el mismo Narayana, oh rey, con todos sus misterios y detalles abstractos. Así, oh monarca, este principal de los cultos es primigenio y eterno. Incapaz de ser comprendido con facilidad y extremadamente difícil de practicar, siempre es defendido por personas comprometidas con el atributo de Sattwa.

El Hari Gita es otro nombre para el Bhagavad Gita y, como dice el pasaje, resume las enseñanzas de Pancharatra.

En cualquier caso, sí, sería extraño que Vyasa, que alaba a Pancharatra en el Mahabharata, los criticara en los Brahma Sutras. Pero no todos creen que Vyasa los critique en los Brahma Sutras. Adi Shankaracharya creía eso, pero otros comentaristas no están de acuerdo, como puede ver aquí . Ramanujacharya creía que Vyasa en realidad defendió a Pancharatra en los Brahma Sutras, y cita el Mahabharata para demostrar el apoyo de Vyasa a Pancharatra. Esto es lo que dice Ramanujacharya en esta sección del Sri Bhashya:

El autor de los Sûtras (Vyâsa), quien primero compuso los Sûtras, cuyo propósito es exponer los argumentos que establecen la doctrina Vedânta, y luego el Bhârata-samhitâ (es decir, el Mahâbhârata) en cien mil slokas para para apoyar de ese modo la enseñanza del Veda—él mismo dice en el capítulo llamado Mokshadharma, que trata del conocimiento, 'Si un cabeza de familia, o un Brahmakârin, o un ermitaño, o un mendicante desea alcanzar el éxito, ¿a qué deidad debe adorar? ' y así; explica luego con gran detalle el sistema Pañkarâtra, y luego dice: 'De la larga historia de Bhârata, que comprende cien mil slokas, este cuerpo de doctrina ha sido extraído, con el bastón batidor de la mente, como se bate mantequilla de la cuajada-- como la mantequilla de la leche, como el Brahmana de los hombres, como el Âranyaka de los Vedas, como Amrita de hierbas medicinales.--Este gran Upanishad, consistente con los cuatro Vedas, en armonía con Sânkhya y Yoga, fue llamado por él con el nombre de Pañkarâtra. Esto es excelente, esto es Brahman, esto es supremamente beneficioso. Totalmente de acuerdo con el Rik, el Yagus, el Sâman y el Atharvân-giras, esta doctrina será verdaderamente autorizada.' Los términos Sânkhya y Yoga aquí denotan la aplicación concentrada del conocimiento y de las obras. Como se ha dicho, 'Por la aplicación del conocimiento por parte del Sânkhya, y de las obras por parte de los Yoguis'. Y en el Bhîshmaparvan leemos: 'Por Brahmanas, Kshattriyas, Vaisyas y Sûdras, Mâdhava debe ser honrado, servido y adorado, aquel que fue proclamado por Sankarshana de acuerdo con la ley Sâtvata'. en armonía con Sânkhya y Yoga, fue llamado por él con el nombre de Pañkarâtra. Esto es excelente, esto es Brahman, esto es supremamente beneficioso. Totalmente de acuerdo con el Rik, el Yagus, el Sâman y el Atharvân-giras, esta doctrina será verdaderamente autorizada.' Los términos Sânkhya y Yoga aquí denotan la aplicación concentrada del conocimiento y de las obras. Como se ha dicho, 'Por la aplicación del conocimiento por parte del Sânkhya, y de las obras por parte de los Yoguis'. Y en el Bhîshmaparvan leemos: 'Por Brahmanas, Kshattriyas, Vaisyas y Sûdras, Mâdhava debe ser honrado, servido y adorado, aquel que fue proclamado por Sankarshana de acuerdo con la ley Sâtvata'. en armonía con Sânkhya y Yoga, fue llamado por él con el nombre de Pañkarâtra. Esto es excelente, esto es Brahman, esto es supremamente beneficioso. Totalmente de acuerdo con el Rik, el Yagus, el Sâman y el Atharvân-giras, esta doctrina será verdaderamente autorizada.' Los términos Sânkhya y Yoga aquí denotan la aplicación concentrada del conocimiento y de las obras. Como se ha dicho, 'Por la aplicación del conocimiento por parte del Sânkhya, y de las obras por parte de los Yoguis'. Y en el Bhîshmaparvan leemos: 'Por Brahmanas, Kshattriyas, Vaisyas y Sûdras, Mâdhava debe ser honrado, servido y adorado, aquel que fue proclamado por Sankarshana de acuerdo con la ley Sâtvata'. Totalmente de acuerdo con el Rik, el Yagus, el Sâman y el Atharvân-giras, esta doctrina será verdaderamente autorizada.' Los términos Sânkhya y Yoga aquí denotan la aplicación concentrada del conocimiento y de las obras. Como se ha dicho, 'Por la aplicación del conocimiento por parte del Sânkhya, y de las obras por parte de los Yoguis'. Y en el Bhîshmaparvan leemos: 'Por Brahmanas, Kshattriyas, Vaisyas y Sûdras, Mâdhava debe ser honrado, servido y adorado, aquel que fue proclamado por Sankarshana de acuerdo con la ley Sâtvata'. Totalmente de acuerdo con el Rik, el Yagus, el Sâman y el Atharvân-giras, esta doctrina será verdaderamente autorizada.' Los términos Sânkhya y Yoga aquí denotan la aplicación concentrada del conocimiento y de las obras. Como se ha dicho, 'Por la aplicación del conocimiento por parte del Sânkhya, y de las obras por parte de los Yoguis'. Y en el Bhîshmaparvan leemos: 'Por Brahmanas, Kshattriyas, Vaisyas y Sûdras, Mâdhava debe ser honrado, servido y adorado, aquel que fue proclamado por Sankarshana de acuerdo con la ley Sâtvata'. y de obras por parte de los yoguis.' Y en el Bhîshmaparvan leemos: 'Por Brahmanas, Kshattriyas, Vaisyas y Sûdras, Mâdhava debe ser honrado, servido y adorado, aquel que fue proclamado por Sankarshana de acuerdo con la ley Sâtvata'. y de obras por parte de los yoguis.' Y en el Bhîshmaparvan leemos: 'Por Brahmanas, Kshattriyas, Vaisyas y Sûdras, Mâdhava debe ser honrado, servido y adorado, aquel que fue proclamado por Sankarshana de acuerdo con la ley Sâtvata'.Entonces, ¿cómo podrían estas declaraciones de Bâdarâyana, el más destacado entre todos los que entienden la enseñanza de los Veda, ser reconciliadas con la opinión de que en los Sûtras mantiene la no autoridad de la doctrina Sâtvata, cuyo propósito es enseñar la adoración y meditación sobre Vâsudeva, quien no es otro que el más alto Brahman conocido de los textos Vedânta?