Lo que quieres no es que se parezca a un RTOS es que es un RTOS, el cual es un sistema operativo en tiempo real, en otras palabras, no tiene latencia (si que tiene como cualquier sistema secuencial pero despreciable para la mayoría de las tareas), si tuviera latencia seria un sistema operativo normal como linux o son dos
Hay muchos sistemas operativos en tiempo real para microcontroladores, algunos mas completos y otros mas livianos.
Si lo que quieres es hacerlo tu, no te va a resultar fácil necesitas de conocimientos de programación avanzados, y tendrás que recurrir al ensamblador para, ejecutar los saltos de programa y usar la pila para guardar los registros, ademas de poner etiquetas para saber donde te has quedado.
Puedes empezar haciendo el scheduler que es lo mas "sencillo".
Por otra parte, si programas de manera correcta, sin usar while, ni delay, ni nada que genere retrasos en el ciclo del programa, no tendrás latencia en tu programa, y no necesitaras ningún rtos o te servirá solo con el scheduler.
Aquí tienes uno que hice yo hace tiempo, te puede servir para hacerte una idea de como hacer el tuyo o adaptar este a tu gusto.
Un saludo.