{"action":"opened","issue":{"url":"https://api.github.com/repos/dnouri/nolearn/issues/95","labels_url":"https://api.github.com/repos/dnouri/nolearn/issues/95/labels{/name}","comments_url":"https://api.github.com/repos/dnouri/nolearn/issues/95/comments","events_url":"https://api.github.com/repos/dnouri/nolearn/issues/95/events","html_url":"https://github.com/dnouri/nolearn/issues/95","id":78334984,"number":95,"title":"Use of RandomizedSearchCV with Nolearn?","user":{"login":"BrianMiner","id":8807554,"avatar_url":"https://avatars.githubusercontent.com/u/8807554?v=3","gravatar_id":"","url":"https://api.github.com/users/BrianMiner","html_url":"https://github.com/BrianMiner","followers_url":"https://api.github.com/users/BrianMiner/followers","following_url":"https://api.github.com/users/BrianMiner/following{/other_user}","gists_url":"https://api.github.com/users/BrianMiner/gists{/gist_id}","starred_url":"https://api.github.com/users/BrianMiner/starred{/owner}{/repo}","subscriptions_url":"https://api.github.com/users/BrianMiner/subscriptions","organizations_url":"https://api.github.com/users/BrianMiner/orgs","repos_url":"https://api.github.com/users/BrianMiner/repos","events_url":"https://api.github.com/users/BrianMiner/events{/privacy}","received_events_url":"https://api.github.com/users/BrianMiner/received_events","type":"User","site_admin":false},"labels":[],"state":"open","locked":false,"assignee":null,"milestone":null,"comments":0,"created_at":"2015-05-20T02:18:24Z","updated_at":"2015-05-20T02:18:24Z","closed_at":null,"body":"Is there a known issue / limitation in using nolearn (lasagne) with scikit's randomizedsearchCV to tune parameters? When I  run the following snipet, I get results that appear that there is a problem. It appears that the cv =3 causes three identical runs of the code simultaneously and the result are nan values for the loss or impossibly large values (50+ digits). \r\n```\r\n param_dist = {\"update_learning_rate\": sp_rand(0.001,0.01),\r\n                  \"dense0_num_units\": sp_randint(100,300),\r\n                  \"dense1_num_units\": sp_randint(100,300),\r\n                  \"dropout0_p\":  sp_rand(0.1,0.75),\r\n                  \"dropout1_p\":  sp_rand(0.1,0.75),\r\n                  \"update_momentum\" : sp_rand(0.9,0.99),\r\n                  \"max_epochs\": [50,100,150,200]\r\n                   \r\n                  }\r\n\r\n    \r\n    layers0 = [('input', InputLayer),\r\n           ('dense0', DenseLayer),\r\n           ('dropout', DropoutLayer),  \r\n           ('dense1', DenseLayer),\r\n           ('dropout1', DropoutLayer),  \r\n           ('output', DenseLayer)]\r\n    \r\n    net0 = NeuralNet(layers=layers0,\r\n                input_shape=(None, train_X.shape[1]), \r\n                dense0_nonlinearity=rectify,\r\n                 dense1_nonlinearity=rectify,\r\n                 output_num_units=4,\r\n                 output_nonlinearity=softmax,\r\n                 objective_loss_function =categorical_crossentropy,\r\n                 update=nesterov_momentum,\r\n                 eval_size=0.0,\r\n                 verbose=1\r\n                   )\r\n     \r\nrandom_search = RandomizedSearchCV(net0, param_distributions=param_dist, n_iter=50, scoring =kappa , cv=3, n_jobs=1)\r\nrandom_search.fit(train_X, train_y.values)\r\n```\r\n\r\n*Output*\r\n```\r\ninput                 (None, 313)             produces     313 outputs\r\n  dense0                (None, 100)             produces     100 outputs\r\n  dropout               (None, 100)             produces     100 outputs\r\n  dense1                (None, 253)             produces     253 outputs\r\n  dropout1              (None, 253)             produces     253 outputs\r\n  output                (None, 4)               produces       4 outputs\r\n# Neural Network with 57969 learnable parameters\r\n\r\n## Layer information\r\n\r\n|   # | name     |   size |\r\n|----:|:---------|-------:|\r\n|   0 | input    |    313 |\r\n|   1 | dense0   |    100 |\r\n|   2 | dropout  |    100 |\r\n|   3 | dense1   |    253 |\r\n|   4 | dropout1 |    253 |\r\n|   5 | output   |      4 |\r\n\r\n# Neural Network with 57969 learnable parameters\r\n\r\n## Layer information\r\n\r\n|   # | name     |   size |\r\n|----:|:---------|-------:|\r\n|   0 | input    |    313 |\r\n|   1 | dense0   |    100 |\r\n|   2 | dropout  |    100 |\r\n|   3 | dense1   |    253 |\r\n|   4 | dropout1 |    253 |\r\n|   5 | output   |      4 |\r\n\r\n# Neural Network with 57969 learnable parameters\r\n\r\n## Layer information\r\n\r\n|   # | name     |   size |\r\n|----:|:---------|-------:|\r\n|   0 | input    |    313 |\r\n|   1 | dense0   |    100 |\r\n|   2 | dropout  |    100 |\r\n|   3 | dense1   |    253 |\r\n|   4 | dropout1 |    253 |\r\n|   5| output   |      4 |\r\n\r\n  epoch    train loss    valid loss    train/val    valid acc  dur\r\n-------  ------------  ------------  -----------  -----------  -----\r\n      1           nan           nan          nan          nan  0.19s\r\n  epoch    train loss    valid loss    train/val    valid acc  dur\r\n-------  ------------  ------------  -----------  -----------  -----\r\n      1           nan           nan          nan          nan  0.19s\r\n  epoch    train loss    valid loss    train/val    valid acc  dur\r\n-------  ------------  ------------  -----------  -----------  -----\r\n      1           nan           nan          nan          nan  0.19s\r\n      2           nan           nan          nan          nan  0.18s\r\n      2           nan           nan          nan          nan  0.18s\r\n      2           nan           nan          nan          nan  0.18s\r\n      3           nan           nan          nan          nan  0.18s\r\n      3           nan           nan          nan          nan  0.18s\r\n      3           nan           nan          nan          nan  0.18s\r\n      4           nan           nan          nan          nan  0.18s\r\n      4           nan           nan          nan          nan  0.18s\r\n      4           nan           nan          nan          nan  0.18s\r\n      5           nan           nan          nan          nan  0.18s\r\n      5           nan           nan          nan          nan  0.18s\r\n      5           nan           nan          nan          nan  0.18s\r\n      6           nan           nan          nan          nan  0.18s\r\n      6           nan           nan          nan          nan  0.18s\r\n      6           nan           nan          nan          nan  0.18s\r\n      7           nan           nan          nan          nan  0.19s\r\n      7           nan           nan          nan          nan  0.19s\r\n      7           nan           nan          nan          nan  0.19s\r\n      8           nan           nan          nan          nan  0.18s\r\n      8           nan           nan          nan          nan  0.18s\r\n      8           nan           nan          nan          nan  0.18s\r\n      9           nan           nan          nan          nan  0.18s\r\n      9           nan           nan          nan          nan  0.18s\r\n      9           nan           nan          nan          nan  0.18s\r\n     10           nan           nan          nan          nan  0.19s\r\n     10           nan           nan          nan          nan  0.19s\r\n     10           nan           nan          nan          nan  0.19s\r\n     11           nan           nan          nan          nan  0.18s\r\n     11           nan           nan          nan          nan  0.18s\r\n     11           nan           nan          nan          nan  0.18s\r\n     12           nan           nan          nan          nan  0.19s\r\n     12           nan           nan          nan          nan  0.19s\r\n     12           nan           nan          nan          nan  0.19s\r\n     13           nan           nan          nan          nan  0.18s\r\n     13           nan           nan          nan          nan  0.18s\r\n     13           nan           nan          nan          nan  0.18s\r\n     14           nan           nan          nan          nan  0.19s\r\n     14           nan           nan          nan          nan  0.19s\r\n     14           nan           nan          nan          nan  0.19s\r\n     15           nan           nan          nan          nan  0.19s\r\n     15           nan           nan          nan          nan  0.19s\r\n     15           nan           nan          nan          nan  0.19s\r\n     16           nan           nan          nan          nan  0.18s\r\n     16           nan           nan          nan          nan  0.18s\r\n     16           nan           nan          nan          nan  0.18s\r\n     17           nan           nan          nan          nan  0.18s\r\n     17           nan           nan          nan          nan  0.18s\r\n     17           nan           nan          nan          nan  0.18s \r\n\r\n\r\nOr if there is a value it looks like this;\r\n\r\n```\r\n  epoch    train loss    valid loss    train/val    valid acc  dur\r\n-------  ------------  ------------  -----------  -----------  -----\r\n      1       1.21497           nan          nan          nan  0.21s\r\n  epoch    train loss    valid loss    train/val    valid acc  dur\r\n-------  ------------  ------------  -----------  -----------  -----\r\n      1       1.21497           nan          nan          nan  0.21s\r\n  epoch    train loss    valid loss    train/val    valid acc  dur\r\n-------  ------------  ------------  -----------  -----------  -----\r\n      1       1.21497           nan          nan          nan  0.21s\r\n      2       1.07145           nan          nan          nan  0.21s\r\n      2       1.07145           nan          nan          nan  0.21s\r\n      2       1.07145           nan          nan          nan  0.21s\r\n      3       1.00561           nan          nan          nan  0.21s\r\n      3       1.00561           nan          nan          nan  0.21s\r\n      3       1.00561           nan          nan          nan  0.21s\r\n      4       0.95005           nan          nan          nan  0.21s\r\n      4       0.95005           nan          nan          nan  0.21s\r\n      4       0.95005           nan          nan          nan  0.21s\r\n      5       0.90978           nan          nan          nan  0.21s\r\n      5       0.90978           nan          nan          nan  0.21s\r\n      5       0.90978           nan          nan          nan  0.21s\r\n      6       0.87553           nan          nan          nan  0.21s\r\n      6       0.87553           nan          nan          nan  0.21s\r\n      6       0.87553           nan          nan          nan  0.21s\r\n      7       0.84362           nan          nan          nan  0.21s\r\n      7       0.84362           nan          nan          nan  0.21s\r\n      7       0.84362           nan          nan          nan  0.21s\r\n      8       0.83171           nan          nan          nan  0.21s\r\n      8       0.83171           nan          nan          nan  0.21s\r\n      8       0.83171           nan          nan          nan  0.21s\r\n      9       0.80696           nan          nan          nan  0.21s\r\n      9       0.80696           nan          nan          nan  0.21s\r\n      9       0.80696           nan          nan          nan  0.21s\r\n\r\n```\r\n\r\n\r\n\r\n\r\n\r\n\r\n```"}}