Что такое файлы core на сервере?
Смотрим на любой core-файл с помощью утилиты file:

$ file core.666
core.666: ELF 64-bit LSB core file, x86-64, version 1 (SYSV), SVR4-style, from '/usr/bin/foobar', real uid: 0, effective uid: 0, real gid: 0, effective gid: 0

Тут видно, что крэшился процесс foobar.

Далее с помощью:

gdb -c core.666

можно поизучать, что там реально происходило, но это уже более сложно, особенно без отладочных данных и вообще с чужим кодом.

С запуском scp всё это скорее всего не связано, ну разве что core-файл остаётся от самого sshd.
Буквы "y" после второго ввода yes - результат работы команды "yes" (да, есть такая программа!). Собственно, сама по себе она выводит в терминал "y" пока не будет убита.
А вот почему она (а может и не она?) при уничтожении оставила столько файлов, непонятно. Может быть это особенность запуска yes под ssh, или падало что-то другое.
Надо по ls -l посмотреть даты создания этих файлов, и будет понятно, сейчас они создались (тогда на 90% что это yes так глюкануло), или даты разные, тогда надо разбираться...