В классе Renderer/Renderer.cpp есть функция Renderer::getIntersection(Scene &scene, const Camera &camera, const Ray &ray) - она возвращает нам точку пересечения луча с примитивом, а также возвращает вектор нормали примитива из этой точки. В нашей примитивной зеркальной поверхности будем считать, что угол падения равен углу отражения. Зная нормаль, думаю мы можем найти вектор отражения (например можем вектор падения повернуть вокруг нормали).

В классе Renderer/Renderer.cpp (а также в заголовочном файле Renderer/Renderer.h) нужно создать функцию, которая создаст нам вектор отражения:

Пусть метод принимает на вход точку пересечения (Point * rayOrigin), нормаль в этой точке (Vec3) и вектор луча который мы пересекли (Vec3 fallingRayDir), а возвращает Ray - новый луч из точки пересечения :
Ray Renderer::getReflectionRay(Point * rayOrigin, Vec3 * normal, Vec3 * fallingRayDir)

Ну и желательно написать какой-нибудь тестик