En febrero de 1.868 protestó en hoja volante por el atentado cometido en Ambato en contra de sus paisanos. El 69 halló en Quito al joven Francisco Febres-Cordero Muñoz, recién ingresado a la Orden de los Hermanos Cristianos de la Salle, con quien cultivó espléndida relación de amistad, reemplazando al padre ausente del amigo. Peña era para dicha Comunidad un consejero prudente a cuya protección del amigo podía acudirse sin temor, que tenia por suyos propios las penas y los goces de la Congregación. Con los años, el Hermano Miguel reputaba por honor suyo llamarse su discípulo. Peña le había guiado con su amistad y cariño, animándose ambos a trabajar mutuamente por Dios para la mayor perfección posible. El Padre Julio Matovelle contaría que varias veces le llevó Peña a visitar al hermano Miguel. Qué ratos tan deliciosos pasaba oyendo hablar a esos dos amigos de la vanidad del mundo, del valor de la virtud, de la devoción del Sagrado Corazón y la Virgen Santísima, del amor de Jesús sacramento para los hombres. “Aseguro que salía de aquellas visitas con el alma reconfortada e inundada de gozo”. Por eso el Hermano Miguel decía en carta a un amigo, que don Belisario era la mitad de su alma..!

En 1.871 se trasladó a vivir dos años y medio en Latacunga para organizar y poner en buen pie el Colegio de los Hermanos Cristianos de esa ciudad. El 72 volvió a Quito y dictó Ciencias Políticas en la Universidad Central hasta el asesinato de García Moreno y la salida del país de su amigo el Padre Enrique Terenziani, S.J.

En 1.873 viajó a Europa por negocios, estuvo en Roma y en Lourdes peregrinando en razón de su fe. El Padre Terenziani le encargó numerosos objetos para el culto religioso y tres casullas, una fina y dos ordinarias. De regreso se asoció a sus paisanos Aurelio y José María Cañadas en el negocio de la cascarilla, formando la razón social “Cañadas, Peña y Cía.” que se disolvió el 78, quedando las liquidaciones pendientes a cargo de Aurelio Cañadas y de Peña, bajo las firmas de estos.

Amigo de literatos notables entre los que se contaban Juan León Mera en el Ecuador y Rufino José Cuervo y Miguel Antonio Caro en la Nueva Granada, tradujo del francés “El Tratado de la Verdadera Devoción a la Santísima Virgen” de San Luis María Grignon de Monfort.

Entre los eclesiásticos colombianos más amigos estaban los Arzobispos José Teléforo Paúl, Manuel José de Caicedo y Bernardo Herrera Restrepo. El librito de Monfort salió a la luz, en la imprenta de los HH.CC. de Quito, en 1880.

En 1.881 suscribió un Manifiesto protestando por las aseveraciones del Presidente del Estado del Cauca, Ezequiel Hurtado, quien había manifestado por la prensa que la decadencia de los ingresos de las rentas de aduana de Buenaventura y Tumaco se debía al convenio del gobierno con la Casa de Comercio colombiana “Caicedo e Hijos” y con la inglesa “Woodhouse y Kusell” para que introduzcan por Guayaquil mercancías extranjeras con destino a Colombia. Peña y los otros dieron como razón de la decadencia los altos impuestos que se cobraban en Colombia, mayores que los ecuatorianos de Guayaquil.

En 1.883 colaboró en “La República del Sagrado Corazón de Jesús”, falleció su padre en Bogotá y el 89 renunció con Carlos Casares a la Academia Ecuatoriana de la Lengua por la disputa política que sostenían los conservadores acaudillados por José Modesto Espinosa, contra los progresistas del Presidente de la República, Dr. Antonio Flores Jijón, agravada con motivo de la política de Flores para regular el Diezmo y las primicias que gravaban a los pequeños agricultores de la sierra.

En 1.886 firmó con otros quiteños un Testimonio de Adhesión a la Encíclica “Inmortale Dei” de León XIII. El 90 escribió una composición titulada “A León XIII e Italia”. El 92 fue miembro de la Junta Central que con el Congreso Nacional del Ecuador se pronunció a favor de la devolución al Pontífice del poder temporal. El 94 escribió "Misa Nueva" con motivo de la primera Misa de su amigo Manuel María Pólit Lazo. El 95 editó “A la Memoria del Dr. Julio B. Enríquez” poesía, en 8 págs. El 96 formó parte de un Comité encargado de organizar un homenaje mundial a Cristo, para lo cual creían tales devotos que el Meridiano que pasaba por el Monte Calvario debía ser adoptado por los geógrafos como principal en reemplazo de Grenwich y por su amistad con los principales miembros del partido Católico le fue notificado el 26 de Mayo que debía trasladarse en 24 horas a Guayaquil para salir del país. La orden del destierro le llegó conjuntamente con su designación de Senador por el Departamento de Cundinamarca en Colombia y salió con su hijo mayor César, llevando en su maleta el nombramiento.

Arribó a Bogotá tras cuarenta años de ausencia. El 12 de Agosto se posesionó de su alto cargo y fue electo Presidente de las sesiones extraordinarias de esa Cámara, quizá por influjo de su amigo el Presidente de la República. En Octubre se informó por la prensa del incendio Grande de Guayaquil y consiguió una ayuda de cien mil pesos para los damnificados.

Su vida se deslizaba entre las funciones en el Senado, fiestas y convites de parientes y amigos y paseos por las extensas sabanas de Bogota y Zipaquirá, que recorrió con delectación pues le traían muchos recuerdos; pero, al mismo tiempo la soledad de su esposa e hijos le martirizaba. Por eso agenció con vanos amigos ecuatorianos para que lograran la orden de retorno, especialmente con el Vicepresidente de la República Manuel Benigno Cueva que había sido su alumno en el Colegio de la Unión de Quito. El 97 pudo volver por la vía de Popayán y Pasto, encontrando que días antes acababa de fallecer su esposa a causa de la presión arterial elevada, su mal de siempre.

Su viudez empezó a amagarle. El 98 también falleció su hija Carmen de Riofrío, ángel de la casa, dejando un hijito de 15 meses. Recluido en su casa, saliendo poco y leyendo mucho, vio pasar los días sin mayores alicientes, pero aún le quedaban buenos amigos. El Padre Manuel José Proaño le visitaba de continuo y hacían competencias para ver quien traducía mejor los clásicos. El Presbítero José María Campuzano le escribía desde el Perú y Chile. Juan Abel Echeverría de Ambato, Remigio Crespo Toral de Cuenca.

En 1.898 escribió un soneto a su amigo el Obispo Caicedo de Popayán. El 99 aconsejó a sus hijos Virginia, César y Juan Evangelista que se amen entre si muy de veras. La fortuna había sufrido serios quebrantos con sus destierros y algunas propiedades pasaron a manos de extraños. En 1.901 editó “Sonetos Eucarísticos” en 16 págs. El 27 de Diciembre declamó una Oda en el Salón del Seminario Menor de San Luis con motivo de un homenaje a Cristo Redentor. El 2 comenzaron a hinchársele los pies y no podía escribir una carta de corrido; en cuanto a leer, lo hacia no sin vértigos. En 1.903 participó en el Comité Nacional Pro Jubileo de León XIII con la Oda “León XIII e Italia”. En Noviembre protestó por la desmembración de Colombia, al independizarse Panamá.

En 1.904 su amigo Pólit Lazo le editó en Friburgo un folleto muy fino “A la Inmaculada Concepción de María”, como su tributo al quincuagésimo aniversario de la promulgación del dogma. En Diciembre escribió en cumplimiento a una promesa efectuada en el destierro, su "Oda a María Santísima", donde alcanzó cierta intensidad por elegíaca.

Devoto de Jesús Sacramentado, alegrábase sobremanera con las Primeras Comuniones de los niños y quizo trabajar en la idea de consagrar el nuevo siglo XX a Jesús Redentor, sin encontrar el eco que esperaba, pues occidente era una sociedad laica sin él saberlo. Tal el atraso de su pensamiento.

Sus últimos tiempos fueron penosos a consecuencia del asma y del corazón que le causaban asfixias, pero hasta el final su voz fue suave y argentina, sus modales urbanos y su conversación erudita. En su alma el culto a lo bello iba unido a lo bueno, por eso cantaba con los ojos levantados al cielo, llenos de Horacio y de Manzoni; como político fue de escaso vuelo, refractario al progreso y a los ideales de la modernidad, que ni conoció ni quizo comprender.

En Mayo de 1.906 cantó al prodigio de la Virgen del Parpadeo en siete estrofas. El Cardenal Vanutelli le envió de Roma la bendición Pontificia, una tarjeta y tres medallas de Pio X; el Cardenal Cavicchini un libro italiano de versos, todo ello a través de Pólit Lazo.

Falleció en Quito el 7 de Septiembre, de 72 años de edad, pero parecía de más. Días antes había expresado su deseo de morir de amor abrazado a un crucifijo y ordenó que junto a sus restos fuera colocado uno de sus cantos a la Inmaculada Concepción.

En su muerte se dijo “Hombre extraordinario, su fe anegó su entendimiento con sus divinos fulgores y la caridad caldeó su corazón.” El mismo reconocía que en muchas ocasiones, al componer sus cantos, lo hacia llorando por la emoción que las palabras insuflaban a su alma, siempre conmovida por lo religioso. El Comité del Rosario le publicó un número extraordinario de su Revista.

En 1.912 su amigo el Arzobispo de Quito, Federico González Suárez, recopiló sus poesías y las dio a la luz en un tomo titulado “Composiciones poéticas del Sr. Don Belisario Peña en 334 págs. precedidas de un prólogo suyo en 62 págs. Allí se dijo que Peña nunca había querido recogerlas y que solo al final de sus días y a instancias de Cuervo lo permitió, pues el mismo amigo Cuervo iba a redactar un Prólogo. En 1.932 Manuel María Pólit publicó 11 poesías más, de las menores- pero no indignas; entre ellas una traducción de Manzoni titulada "El día de la Primera Comunión" y otras 16 poesías constan recopiladas en la Biblioteca de los Jesuitas de Cotocollao, una de ellas de mucho interés, en honor al General Tomás Cipriano de Mosquera. Su biografía ha sido publicada en Colombia por el Académico Roberto M. Tisnés J. CMF.