Что значит открытый луч? что значит, что точка а не принадлежит открытому лучу?

Луч - часть прямой, состоящая из данной точки и всех точек, лежащих по одну сторону от неё. Любая точка на прямой разделяет прямую на два луча.

Более точно, каждая точка O на прямой разбивает множество точек этой прямой, отличных от O, на два непустых подмножества - полупрямых - так, что точка O лежит между любыми двумя точками прямой, принадлежащими разным подмножествам. Каждое из этих подмножеств называется открытым лучом с началом в O.

Луч с началом в точке O, содержащий точку A, обозначается "луч ОА" [1].

Для любого неотрицательного числа a на заданном луче с началом O существует единственная точка A, находящаяся на расстоянии a от точки O.