Почему нельзя получить геометрический (световой) луч, уменьшая до нуля ширину щели?

Потому что когда ширина щели будет соизмерима с длиной волны, ты уже не получишь никакого луча

В пределе вместо тонкого луча образуется дифракция.

Когда световая волна встречает на своем пути резкие неоднородности (например, край непрозрачного объекта, щель в непрозрачном экране и т. д.), то она в своем поведении перестает подчиняться законам геометрической оптики. Такие эффекты называются дифракционными эффектами, или просто дифракцией.