20 отметок, повторная метка появится на 10 круге.
Учитывая что мы не знаем в каком именно месте на меньшей окружности находится гвоздь, то в старую метку (при учете что метка не осталась в нулевом положении второй окружности относительно первой), гвоздь попадет на начале 10го круга.
Обозначим первую окружность а, вторую окружность (которая составляет внешний край колеса) б, соотношение радиусов r_b/r_a=18/40=0.45, соответственно за полный оборот окружность б, пройдет 0,45 длины окружности а (2Пr_a), если выразить прохождение окружности б по а радиально, то получим выражение, где целая часть будет обозначать сколько раз окружность б уже прокатилась по а, а дробная некоторое координатное положение сегмента в котором находится гвоздь, соответственно, так как не известно точное местоположение гвоздя в начале относительно окружности а, искомый ответ получим при совпадении координат сектора обозначающего его положение.
Принятые координаты сектора мы можем наблюдать на Рис.1.

Рис.1.
То есть, для 1 оборота окружности б, это будет сектор ограниченный 0 и 1 (условные координаты) 0,45*2П*0 и 0,45*2П*1 (радиальные), для n-го 0,45*2П*(n-1) и 0,45*2П*n=>
=>для 2 оборота 0,45*2П и 0,45*2П*2, для 20го соответственно 19 и 20 или же 0,45*2П*19 и 0,45П*2П*20=9*2П соответственно мы вернулись в нулевую координату (начальное положение колеса относительно окружности), первое совпадение касания гвоздя будет находится в секторе ограничиваемым условными координатами 20 и 21, совпадет с 0 и 1.
Расчетная формула 0,45*2П*n, для нашей задачи можно упростить до 0,45n, => [0;1]1 круг, [1;2] 2й [n-1;n] n-ный. В этом случае 1=2П радиан, полная окружность.
0,45
0,9
1,35
1,8
2,25
2,7
3,15
3,6
4,05
4,5
4,95
5,4
5,85
6,3
6,75
7,2
7,65
8,1
8,55
9
9,45
9 є [9;10] - 10 круг. Исключение если начальное положение гвоздя совпало с точкой касания окружности б к а, в нулевой момент времени.
9/0,45=20 - отметок всего.

Добавлено (06.09.2016, 09:31)
---------------------------------------------
Так как мы имеем дело с замечательной фигурой геометрии - окружностью, то правильный результат можно получить проведя вычисление исключительно над радиусами, а именно:
r_b *1+r_b *2+...r_b *n
if r_b*n!>r_a to r_b*n!-ra
18
36
14 (54-40)
и так далее, в этом случае мы так же получим правильный результат, 20 делений и 10 кругов.
Для данного решения можно воспользоваться одной голой интуицией)
Действительно окружность - замечательная фигура геометрии.

Ну и еще 1 решение, уже чисто алгебраическое.
Условие задачи можно преобразовать как
0,45*2П*n=2П*k
где требуется найти минимально возможное значение n (натуральное число), для которого k будет натуральным.
0,45n=k
n=100 k=45
n=20 k=9
соответственно получаем 20 секторов 2П/20=18⁰
За k=9 9 полных оборотов.