Может f(x,y)=
попробовать?

>>5263673
проблема не в этой строчке. приведи листинг этой функции и как ты используешь ссылку на эту функцию.

>>5264008
Поподробней плз. Мненужно создать М-файл, у меня есть вроде как рабочий пример:

Создаем М-файл:

function f =odu1(t,x)
f=t*exp(-t);

Ты имеешь ввиду что это имя уже используется?

>>5264071
нет. у тебя всё примитивно. файл назвал odu1.m? (заглавные буквы или нет - это важно)
чтобы использовать эту функцию, ты должен на неё сослаться из другого файла, например так:
A=odu1(tt,xx)

причём эта самая tt (в файле функции t) должна быть определена как int или real. возможно ты загнал в t массив, тогда тут по-другому написать надо.